APP测试规范.doc

app 客户端测试规范APP测试流程目录1.测试基本流程图32.测试要点42.1测试资源42.2接收版本42.3UI测试42.4功能测试42.5兼容测试/性能测试52.6后台数据统计测试52.7用户行为统计测试52.8回归测试63.App测试点63.1安全测试63.1.1软件权限63.1.2安装与卸载安全性73.1.3数据安全性73.1.4通讯安全性83.1.5人机接口安全性83.2安装、卸载测试83.2.1安装93.2.2卸载93.3 UI测试93.3.1导航测试103.3.2图形测试103.3.3内容测试103.4功能测试103.4.1运行113.4.2应用的前后台切换123.4.3免登录123.4.4数据更新133.4.5离线浏览（无网测试）133.4.6 App更新133.4.7定位、照相机服务133.4.8时间测试143.4.9 PUSH测试143.5性能测试143.6交叉事件测试143.7兼容测试153.8回归测试153.9升级、更新测试153.10用户体验测试163.11硬件环境测试163.11.1手势操作测试163.11.2网络环境173.11.3服务器宕机或出现404、502等情况下的测试173.12接口测试173.13 客户端数据库测试171. 测试基本流程图 2. 测试要点2.1 测试资源测试任务开始前，检查各项测试资源。1) 产品功能需求文档2) 产品原型图3) 产品效果图4) 测试设备（ios3.1.3-ios5.0.1；Android1.6-Android4.0；Winphone7.1及以上等）5) 其他（例如支付宝/银联支付功能，需要提前申请支付宝/银联账户等等）2.2 接收版本6) 接收测试版本的同时，需要查看APP版本送测规范，若符合则开始测试任务，若不符合规范，可拒绝测试。7) 日常接收版本时需要注意测试版本规范，如不符合，请开发人员重新修改合适的版本号后再次提交测试。2.3 UI测试1) 确保手头的原型图与效果图为当前最新版本。2) 确保产品UI符合产品经理制定的原型图与效果图。3) 一切界面问题以效果图为准，若有用户体验方面的建议，必须先以邮件或口头的形式询问产品经理。4) 由于测试环境中的数据为模拟数据，测试时必须预先考虑到正式环境中可能出现的数据类型2.4 功能测试1) 确保手头的功能需求文档为当前最新版本。2) 确保所有的软件功能都已实现且逻辑正常。3) 一切功能问题以需求文档为准，若有用户体验方面的建议，必须先以邮件或口头的形式询问产品经理。4) 若有些功能在技术上难以实现或者由于排期的原因无法在短时间内实现，必须得到产品经理的确认，而不是单单只听开发人员的技术解释。5) 禅道上所有的“外部原因”问题，都需要尽早地督促开发人员与客户服务端人员联系协调解决。6) 禅道上所有的“设计如此”、“延期处理”问题，都需要和产品经理确认后再进行验证。7) 测试发标、借款、投资时，所有测试人员必须严格遵守规范。注册的测试账号必须符合公司规范；借款标标题必须包含“测试”关键字等。8) 测试细节可参考且必须遵守公司客户端通用测试用例文档。2.5 兼容测试/性能测试1) 确保软件在所有兼容机型上都能正常使用2) 对于低端性能兼容机上独有的问题（例如ios7.0、Android4.0），若在技术上难以修改或者由于排期的原因无法在短时间内改进，必须得到技术平台主管、产品经理以及运营人员的确认。3) 性能测试方面必须满足硬件压力条件下的测试需要（例如多线程）4) 网络响应用户体验方面的性能测试，请参考且遵守Mobile app可用性能标准。2.6 后台数据统计测试1) 核对“客户端相关启动查询”项，此项数据就是经常说的“激活量”，非常重要。测试时必须保证该项中的各数据均正确，且每次启动软件都会有相应的统计记录。2) 核对“借款查询”项，测试时必须保证各数据均正确，且每次成功借款后都会有相应的统计记录。3) 需要注意的是，在成功借款之后，BI后台会做判断将该记录划到测试单范围，测试人员必须到“借款标查询（测试）”模块中核对借款标统计记录信息。2.7 用户行为统计测试1) 确保手头的行为统计分析定义文档为最新版本，且与开发人员手中的文档一致。2) 确保产品经理在文档中所定义的页面在该产品中都是存在的。3) 尽可能真实地模拟用户行为。4) 核对统计日志，确保各项操作所对应的页面ID以及操作ID都是正确的。2.8 回归测试1) 软件最终上线前，需对产品进行回归测试，测试内容包含之前所有的测试项目2) 回归测试不再对细节进行测试，而是类似于对产品进行验收，从客户正常使用的角度对产品进行再一轮的整体测试。3) 只有在回归测试通过之后，才对产品进行提交。3. App测试点3.1安全测试3.1.1软件权限1) 扣费风险：包括发送短信、拨打电话、连接网络等（询问权限）2) 隐私泄露风险：包括访问手机信息、访问联系人信息等3) 对App的输入有效性校验、认证、授权、敏感数据存储、数据加密等方面进行检测4) 限制/允许使用手机功能接人互联网5) 限制/允许使用手机发送接受信息功能（短信分享,验证码短信，推送消息）6) 限制/允许应用程序来注册自动启动应用程序（暂无）7) 限制/允许使用手机拍照或录音（上传头像等）8) 限制或使用本地连接9) 限制/允许使用手机读取用户数据10) 限制/允许使用手机写人用户数据11) 检测App的用户授权级别、数据泄漏、非法授权访问等3.1.2安装与卸载安全性1) 应用程序应能正确安装到设备驱动程序上2) 能够在安装设备驱动程序上找到应用程序的相应图标（桌面图标）3) 是否包含数字签名信息（银行卡充值、提现）4) JAD文件显示的资料内容与应用程序显示的资料内容应一致5) 安装路径应能指定6) 没有用户的允许, 应用程序不能预先设定自动启动7) 卸载是否安全, 其安装进去的文件是否全部卸载8) 卸载用户使用过程中产生的文件是否有提示9) 其修改的配置信息是否复原10) 卸载是否影响其他软件的功能11) 卸载应该移除所有的文件3.1.3数据安全性1) 当将密码或其他的敏感数据输人到应用程序时, 其不会被储存在设备中, 同时密码也不会被解码2) 输人的密码将不以明文形式进行显示（用户可选择，默认不显示）3) 密码或其他的敏感数据将不被储存在它们预输人的位置上4) 验证码或密码长度必需至少在4-8个数字长度之间5) 当应用程序处理敏感数据时, 不以明文形式将数据写到其它单独的文件或者临时文件中。6) 应用程序应考虑系统产生的用户提示信息或安全警告7) 在数据删除之前，应用程序应当通知用户或者应用程序提供一个“取消”命令的操作8) “取消”&“后退”命令操作能够按照设计要求实现其功能9) 应用程序应当能够处理当不允许应用软件连接到个人信息管理的情况10) 能合理地处理出现的错误（不能闪退）11) 意外情况下提示用户3.1.4通讯安全性1）在运行其软件过程中, 如果有来电、SMS、EMS、MMS、蓝牙、红外等通讯或充电时, 是否能暂停程序，优先处理通信, 并在处理完毕后能正常恢复软件, 继续其原来的功能2）当创立连接时, 应用程序能够处理因为网络连接中断, 进而告诉用户连接中断的情况3）应能处理通讯延时或中断（弱网或无网络处理）4）应用程序将保持工作到通讯超时, 进而发送给用户一个错误信息指示有连接错误5）应能处理网络异常和及时将异常情况通报用户6）应用程序关闭或网络连接不再使用时应及时关闭断开7) HTTP、HTTPS覆盖测试（H5页面）-App和后台服务一般都是通过HTTP来交互的，验证HTTP环境下是否正常；-公共免费网络环境中（如：麦当劳、星巴克等）都要输入用户名和密码，通过SSL认证来访问网络，需要对使用HTTP Client的library异常作捕获处理。3.1.5人机接口安全性1）返回菜单总保持可用2）命令有优先权顺序3）声音的设置不影响应用程序的功能4）应用程序必需利用目标设备适用的全屏尺寸来显示上述内容5）应用程序必需能够处理不可预知的用户操作, 例如错误的操作和同时按下多个键（快速多次重复查看大图和返回，容易引起崩溃）3.2安装、卸载测试验证 App是否能正确安装、运行、卸载3.2.1安装1) 软件在不同操作系统（常见Android、iOS）下安装是否正常。2) 软件安装后的是否能够正常运行，安装后的文件夹及文件是否写到了指定的目录里。3) 软件安装各个选项的组合是否符合概要设计说明4) 软件操作向导的UI测试 （引导页和第一次启动引导页）5) 软件安装过程是否可以取消，点击取消后，写入的文件是否正确处理6) 软件安装过程中意外情况的处理（如死机，重启，断电）7) 安装空间不足时是否有相应提示8) 软件安装过程是否可以取消9) 安装空间不足时是否有相应提示10) 安装后没有生成多余的目录结构和文件3.2.2卸载1) 系统直接卸载程序是否有提示信息。2) 直接删除安装文件夹卸载是否有提示信息3) 测试卸载后文件是否全部删除所有的安装文件夹。4) 卸载过程中出现的意外情况的测试（如死机、断电、重启）。5) 卸载是否支持取消功能，单击取消后软件卸载的情况。6) 系统直接卸载 UI测试，是否有卸载状态进度条提示3.3 UI测试测试用户界面(如菜单、对话框、窗口和其它可规控件)布局、风格是否满足客户要求、文字是否正确、页面是否美观、文字、图片组合是否完美、操作是否友好等。UI测试的目标是确保用户界面会通过测试对象的功能来为用户提供相应的访问或浏觅功能。确保用户界面符合公司或行业的标准。包括用户友好性、人性化、易操作性测试。3.3.1导航测试1) 按钮、对话框、列表和窗口等；或在不同的连接页面之间需要导航2) 是否易于导航，导航是否直观3) 导航帮助是否准确直观4) 导航与页面结构、菜单、连接页面的风格是否一致3.3.2图形测试1) 自适应界面设计，内容根据窗口大小自适应2) 页面标签风格是否统一3) 各控件操作方式统一4) 页面是否美观5) 页面的图片应有其实际意义而要求整体有序美观6) 图片质量要高且图片尺寸在设计符合要求的情况下应尽量小7) 界面整体是用的颜色不宜过多3.3.3内容测试1) 输入框说明文字的内容与系统功能是否一致（用户名，密码，验证码等）2) 文字长度是否加以限制3) 文字内容是否表意不明4) 是否有错别字5) 信息是否为中文显示(乱码处理)6) 是否有敏感性词汇、关键词7) 是否有敏感性图片，如：涉及版权、专利、隐私等图片3.4功能测试根据需求验证App的各个功能实现，采用如下方法实现并评估功能测试过程：1) 采用时间、地点、对象、行为和背景五元素或业务分析等方法分析、提炼 App的用户使用场景，对比说明或需求，整理出内在、外在及非功能直接相关的需求，构建测试点，并明确测试标准，若需求中无明确标准遵循，则需要参考行业或相关国际标准或准则。2) 根据被测功能点的特性列出相应类型的测试用例对其进行覆盖，如；涉及输入的地方需要考虑等价、边界、负面、异常或非法、场景回滚、关联测试等测试类型对其进行覆盖。3) 在测试实现的各个阶段跟踪测试实现与需求输入的覆盖情况，及时修正业务或需求理解错误。3.4.1运行1) App安装完成后的试运行，可正常打开软件。2) App打开测试，是否有加载状态进度提示。3) App打开速度测试，速度是否可观。4) App页面间的切换是否流畅，逻辑是否正确5) 注册-同表单编辑页面-用户名密码长度-注册提示页面-注册后的页面跳转-前台注册页面和后台的管理页面数据是否一致6) 登录-使用合法的用户登录系统。-系统是否允许多次非法的登陆，是否有次数限制。-使用已经登陆的账号登陆系统是否正确处理。-使用禁用的账号登陆系统是否正确处理。-用户名、验证码（密码）错误或漏填时能否登陆。-删除或修改后的用户，原用户登陆。-不输入用户口令和用户、重复点（确定或取消按钮）是否允许登陆。-登陆后，页面中登陆信息。-页面中有注销按钮。-登陆超时的处理7) 投标-能否正常投标 -能够正常支付-能否正常使用优惠券-能否正常赠送优惠券-已投标状态显示是否正确 3.4.2应用的前后台切换1) APP切换到后台，再回到app，检查是否停留在上一次操作界面。2) app切换到后台，再回到前台时，注意程序是否崩溃，功能状态是否正常。（注意从后台切换回前台数据有更新的时候）3) 手机锁屏解屏后进入app注意是否会崩溃，功能状态是否正常。（注意从锁屏解屏后进入app前台数据有更新的时候）4) 当App使用过程中有电话进来中断后再切换到app，功能状态是否正常5) 当结束app进程后，再开启app，app能否正常启动。6) 出现必须处理的提示框后，切换到后台，再切换回来，检查提示框是否还存在。（有可能会出现闪退现象）7) 对于有数据交换的页面，每个页面都必需要进行前后台切换、锁屏的测试，这种页面最容易出现崩溃。3.4.3免登录1) app有免登录功能时，需要考虑系统版本（iOS、Android）差异。2) 考虑无网络情况时能否正常进入免登录状态。3) 切换用户登录后，要校验用户登录信息及数据内容是否相应更新，确保原用户退出。4) 需要检查一个帐户登录多台手机的情况。原手机里的用户需要被踢出，给出友好提示。5) 密码更换后，检查有数据交换时是否进行了有效身份的校验6) 支持自动登录的应用在进行数据交换时，检查系统是否能自动登录成功并且数据操作无误。7) 检查用户主动退出登录后，下次启动app，应停留在登录界面3.4.4数据更新1) 需要确定哪些地方需要提供手动刷新，哪些地方需要自动刷新，哪些地方需要手动+自动刷新（例：投资理财列表下拉刷新需要手动刷新）2) 确定哪些地方从后台切换回前台时需要数据更新3) 确定数据展示部分的处理逻辑，是每次从服务端请求，还是有缓存到本地4) 检查有数据交换的地方，均有相应的异常处理。3.4.5离线浏览（无网测试）1) 在无网络情况可以浏览本地数据2) 退出app能再开启APP，并给与离线提示3) 切换到后台再切回前台可以正常浏览已缓存内容4) 锁屏后再解屏回到应用前台可以正常浏览已缓存内容5) 刷新页面时会给予相应的离线提示3.4.6 App更新1) 当客户端有新版本时，有更新提示。2) 当版本为非强制升级版时，用户可以取消更新，老版本能正常使用。用户在下次启动app时，仍能出现更新提示。3) 当版本为强制升级版时，当给出强制更新后用户没有做更新时，退出客户端。下次启动app时，仍出现强制升级提示。4) 当客户端有新版本时，在本地不删除客户端的情况下，直接更新检查是否能正常更新至新版本，并检查更新后的客户端功能是否是新版本。5) 当客户端有新版本时，在本地不删除客户端的情况下，检查资源同名文件是否能正常更新成最新版本。（如首页图片，广告位等）3.4.7定位、照相机服务1) App有用到相机，定位服务时，能正常使用2) 当定位服务没有开启时，使用定位服务，会友好性弹出是否允许设置定位提示。当确定允许开启定位时，能自动跳转到定位设置中开启定位服务。3) 使用自带的相机中功能时，不能出现应用程序崩溃(如：使用高清模式拍照)4) 正常使用手机相片库功能3.4.8时间测试校验手机时间和时区设置对app的影响。（如：改变设置后，对还款日期、投标日期的显示是否有影响，对活动时间是否有影响等）3.4.9 PUSH测试1) 检查push消息是否按照指定的业务规则发送2) 检查不接受推送消息时，检查用户不会再接收到push。3) 手机处于睡眠模式时，检查用户是否会接收到push，并唤醒。4) 当push消息是针对登录用户的时候，需要检查收到的push与用户身份是否相符.3.5性能测试1) 极限测试：在各种边界压力情况下，如电池、存储、网速等，验证App是否能正确响应。 -内存满时安装App-运行App时手机断电-运行App时断掉网络2) 响应能力测试：测试App中的各类操作是否满足用户响应时间要求 。-App安装、卸载的响应时间-App各类功能性操作的影响时间3) 压力测试：反复/长期操作下、系统资源是否占用异常。-App反复进行安装卸载，查看系统资源是否正常-其他功能反复进行操作，查看系统资源是否正常3.6交叉事件测试1) 多个App同时运行是否影响正常功能2) App运行时前/后台切换是否影响正常功能3) App运行时拨打/接听电话4) App运行时发送/接收信息5) App运行时切换网络（2G、3G、4G、wifi）6) App运行时浏览网络7) App运行时使用相机、计算器等手机自带设备8) App 调用第三方充值、提现3.7兼容测试1) 与本地及主流App是否兼容2) 基于开发环境和生产环境的不同，检验在各种网络连接下(WiFi、GSM、GPRS、EDGE、WCDMA、CDMA1x、CDMA2000、HSPDA等)，App的数据和运用是否正确3) 与各种设备是否兼容，安卓和IOS系统是否兼容-不同操作系统的兼容性，是否适配-不同手机屏幕分辨率的兼容性，是否适配-不同手机品牌的兼容性3.8回归测试1) Bug修复后且在新版本发布后需要进行回归测试。2) Bug修复后的回归测试在提审和发布市场前，要进行全量用例的回归测试。3.9升级、更新测试新版本发布后，配合不同网络环境的自劢更新提示及下载、安装、更新、启动、运行的验证测试。1) 测试升级后的功能是否与需求说明一样2) 测试与升级模块相关的模块的功能是否与需求一致3) 升级安装意外情况的测试（如死机、断电、重启）4) 升级界面的 UI测试5) 不同操作系统间的升级测试3.10用户体验测试以主观的普通消费者的角度去感知产品或服务的舒适、有用、易用、友好亲切程度。通过不同个体、独立空间和非经验的统计复用方式去有效评价产品的体验特性提升产品的潜在客户满意度。1) 是否有空数据界面设计，引导用户去执行操作。2) 是否滥用用户引导。3) 是否有不可点击的效果，如：你的按钮此时处于不可用状态，那么一定要灰掉，或者拿掉按钮，否则会给用户误导4) 菜单层次是否太深5) 交互流程分支是否太多6) 相关的选项是否离得很远7) 一次是否载入太多的数据8) 界面中按钮可点击范围是否适中9) 标签页是否跟内容没有从属关系，当切换标签的时候，内容跟着切换10) 操作应该有主次从属关系11) 是否定义 Back的逻辑。涉及软硬件交互时，Back键应具体定义12) 是否有横屏模式的设计，应用一般需要支持横屏模式，即自适应设计13) 提示语是否友好14) 操作是否繁琐复杂3.11硬件环境测试3.11.1手势操作测试1) 手机开锁屏对运行中的App的影响2) 运行中的App前后台切换的影响3) 多个运行中的App的切换4) App运行时kill掉进程再打开3.11.2网络环境手机的网络目前主要分为2G、3G、4G、wifi。目前2G的网络相对于比较慢，测试时尤其要注意此块的测试。1) 无网络时，执行需要网络的操作，给予友好提示，确保程序不出现崩溃。2) 内网测试时，要注意选择到外网操作时的异常情况处理。3) 在网络信号不好时，检查功能状态是否正常，确保不因提交数据失败而造成崩溃。4) 在网络信号不好时，检查数据是否会一直处于提交中的状态，有无超时限制。如遇数据交换失败时要给予提示。5) 在网络信号不好时，执行操作后，在回调没有完成的情况下，退出本页面或者执行其他操作的情况，有无异常情况。此问题也会经常出现程序崩溃。3.11.3服务器宕机或出现404、502等情况下的测试当出现域名解析故障时，出现404、502等情况下，需要对异常进行正确的处理。3.12接口测试确保服务端提供的接口并转换的JSON内容正确，对分支、异常流有相应的返回值（需要提供一份接口文档，采用itest框架进行接口测试）3.13 客户端数据库测试1) 一般的增、删、改、查测试。2) 当表不存在时是否能自动创建，当数据库表被删除后能否再自建，数据是否还能自动从服务端中获取回来并保存。3) 在业务需要从服务端取回数据保存到客户端的时候，客户端能否将数据保存到本地。4) 当业务需要从客户端取数据时，检查客户端数据存在时，app数据是否能自动从客户端数据中取出，还是仍然会从服务器端获取？检查客户端数据不存在时，app数据能否自动从服务器端获取到并保存到客户端5) 当业务对数据进行了修改、删除后，客户端和服务端是否会有相应的更新。