语音通信方法转让专利
申请号 : CN201880030421.5
文献号 : CN110622120B
文献日 : 2021-07-02
发明人 : H·W·约翰逊 , C·加里多 , A·E·肖贝尔
申请人 : 苹果公司
摘要 :
权利要求 :
1.一种电子设备,所述电子设备包括:扬声器;
麦克风;
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行以下操作的指令:在与外部设备进行全双工实时音频通信会话时,所述全双工实时音频通信会话被配置为传输第一控制信号数据并单独传输音频数据:从所述外部设备接收所述第一控制信号数据;
响应于接收到所述第一控制信号数据:发出感知通知;以及
防止对所述麦克风的音频输入被启用;
在自接收到所述第一控制信号数据以来的第一预先确定的时间段之后,从所述外部设备接收音频数据;以及
在自发出所述感知通知以来的第二预先确定的时间段之后,从所述扬声器输出所述音频数据。
2.根据权利要求1所述的电子设备,其中所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第一控制信号数据,防止所述电子设备上的其他应用程序在第三预先确定的时间段内发出感知通知。
3.根据权利要求1所述的电子设备,其中在第一信道上接收所述第一控制信号数据,并且其中在与所述第一信道不同的第二信道上接收所述音频数据。
4.根据权利要求1所述的电子设备,其中所述音频数据包括多个音频数据分组,每个音频数据分组具有标头和有效载荷,并且其中所述第一控制信号数据被编码在所述多个音频数据分组中的至少一个音频数据分组的所述标头中。
5.根据权利要求1所述的电子设备,其中所述一个或多个程序还包括用于执行以下操作的指令:
启用对所述麦克风的音频输入并将第二控制信号数据输出到所述外部设备。
6.根据权利要求5所述的电子设备,其中在接收到用户输入之后,在第四预先确定的时间段启用对所述麦克风的音频输入。
7.根据权利要求5所述的电子设备,其中所述一个或多个程序还包括用于执行以下操作的指令:
在输出所述第二控制信号数据之后,在第四预先确定的时间段将第二音频数据输出至所述外部设备。
8.根据权利要求5所述的电子设备,其中所述一个或多个程序还包括用于执行以下操作的指令:
基于所述第一控制信号数据内的时钟数据来确定在生成所述第一控制信号数据之前是否发生了用户输入。
9.根据权利要求8所述的电子设备,其中所述一个或多个程序还包括用于执行以下操作的指令:
根据确定所述用户输入在生成所述第一控制信号数据之前发生,启用对所述麦克风的音频输入并且放弃从所述扬声器输出所述音频数据;并且根据确定所述用户输入在生成所述第一控制信号数据之后发生,防止对所述麦克风的音频输入被启用并且从所述扬声器输出所述音频数据。
10.根据权利要求1所述的电子设备,其中所述第一预先确定的时间段和所述第二预先确定的时间段具有不同的长度。
11.根据权利要求1所述的电子设备,其中所述第一预先确定的时间段与所述第二预先确定的时间段具有相同的长度。
12.根据权利要求1所述的电子设备,其中所述音频数据根据互联网协议语音技术(VoIP)标准来传输,所述标准选自:FaceTime音频、实时传输协议、安全实时传输协议、通用数据报协议和传输控制协议。
13.根据权利要求1所述的电子设备,其中所述第一控制信号数据根据互联网协议语音技术(VoIP)标准来传输,所述标准选自:实时传输控制协议、实时传输协议和传输控制协议。
14.一种方法,所述方法包括:在具有扬声器和麦克风的电子设备处:在与外部设备进行全双工实时音频通信会话时,所述全双工实时音频通信会话被配置为传输第一控制信号数据并单独传输音频数据:从所述外部设备接收所述第一控制信号数据;
响应于接收到所述第一控制信号数据:发出感知通知;以及
防止对所述麦克风的音频输入被启用;
在自接收到所述第一控制信号数据以来的第一预先确定的时间段之后,从所述外部设备接收音频数据;以及
在自发出所述感知通知以来的第二预先确定的时间段之后,从所述扬声器输出所述音频数据。
15.根据权利要求14所述的方法,还包括:响应于接收到所述第一控制信号数据,防止所述电子设备上的其他应用程序在第三预先确定的时间段内发出感知通知。
16.根据权利要求14所述的方法,其中在第一信道上接收所述第一控制信号数据,并且其中在与所述第一信道不同的第二信道上接收所述音频数据。
17.根据权利要求14所述的方法,其中所述音频数据包括多个音频数据分组,每个音频数据分组具有标头和有效载荷,并且其中所述第一控制信号数据被编码在所述多个音频数据分组中的至少一个音频数据分组的所述标头中。
18.根据权利要求14所述的方法,还包括:启用对所述麦克风的音频输入并将第二控制信号数据输出到所述外部设备。
19.根据权利要求18所述的方法,其中在接收到用户输入之后,在第四预先确定的时间段启用对所述麦克风的音频输入。
20.根据权利要求18所述的方法,还包括:在输出所述第二控制信号数据之后,在第四预先确定的时间段将第二音频数据输出至所述外部设备。
21.根据权利要求18所述的方法,还包括:基于所述第一控制信号数据内的时钟数据来确定在生成所述第一控制信号数据之前是否发生了用户输入。
22.根据权利要求21所述的方法,还包括:根据确定所述用户输入在生成所述第一控制信号数据之前发生,启用对所述麦克风的音频输入并且放弃从所述扬声器输出所述音频数据;并且根据确定所述用户输入在生成所述第一控制信号数据之后发生,防止对所述麦克风的音频输入被启用并且从所述扬声器输出所述音频数据。
23.根据权利要求14所述的方法,其中所述第一预先确定的时间段和所述第二预先确定的时间段具有不同的长度。
24.根据权利要求14所述的方法,其中所述第一预先确定的时间段与所述第二预先确定的时间段具有相同的长度。
25.根据权利要求14所述的方法,其中所述音频数据根据互联网协议语音技术(VoIP)标准来传输,所述标准选自:FaceTime音频、实时传输协议、安全实时传输协议、通用数据报协议和传输控制协议。
26.根据权利要求14所述的方法,其中所述第一控制信号数据根据互联网协议语音技术(VoIP)标准来传输,所述标准选自:实时传输控制协议、实时传输协议和传输控制协议。
27.一种计算机可读存储介质,所述计算机可读存储介质存储被配置为由具有扬声器和麦克风的电子设备的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行以下操作的指令:
在与外部设备进行全双工实时音频通信会话时,所述全双工实时音频通信会话被配置为传输第一控制信号数据并单独传输音频数据:从所述外部设备接收所述第一控制信号数据;
响应于接收到所述第一控制信号数据:发出感知通知;以及
防止对所述麦克风的音频输入被启用;
在自接收到所述第一控制信号数据以来的第一预先确定的时间段之后,从所述外部设备接收音频数据;以及
在自发出所述感知通知以来的第二预先确定的时间段之后,从所述扬声器输出所述音频数据。
28.根据权利要求27所述的计算机可读存储介质,其中所述一个或多个程序还包括用于执行以下操作的指令:
响应于接收到所述第一控制信号数据,防止所述电子设备上的其他应用程序在第三预先确定的时间段内发出感知通知。
29.根据权利要求27所述的计算机可读存储介质,其中在第一信道上接收所述第一控制信号数据,并且其中在与所述第一信道不同的第二信道上接收所述音频数据。
30.根据权利要求27所述的计算机可读存储介质,其中所述音频数据包括多个音频数据分组,每个音频数据分组具有标头和有效载荷,并且其中所述第一控制信号数据被编码在所述多个音频数据分组中的至少一个音频数据分组的所述标头中。
31.根据权利要求27所述的计算机可读存储介质,其中所述一个或多个程序还包括用于执行以下操作的指令:
启用对所述麦克风的音频输入并将第二控制信号数据输出到所述外部设备。
32.根据权利要求31所述的计算机可读存储介质,其中在接收到用户输入之后,在第四预先确定的时间段启用对所述麦克风的音频输入。
33.根据权利要求31所述的计算机可读存储介质,其中所述一个或多个程序还包括用于执行以下操作的指令:
在输出所述第二控制信号数据之后,在第四预先确定的时间段将第二音频数据输出至所述外部设备。
34.根据权利要求31所述的计算机可读存储介质,其中所述一个或多个程序还包括用于执行以下操作的指令:
基于所述第一控制信号数据内的时钟数据来确定在生成所述第一控制信号数据之前是否发生了用户输入。
35.根据权利要求34所述的计算机可读存储介质,其中所述一个或多个程序还包括用于执行以下操作的指令:
根据确定所述用户输入在生成所述第一控制信号数据之前发生,启用对所述麦克风的音频输入并且放弃从所述扬声器输出所述音频数据;并且根据确定所述用户输入在生成所述第一控制信号数据之后发生,防止对所述麦克风的音频输入被启用并且从所述扬声器输出所述音频数据。
36.根据权利要求27所述的计算机可读存储介质,其中所述第一预先确定的时间段和所述第二预先确定的时间段具有不同的长度。
37.根据权利要求27所述的计算机可读存储介质,其中所述第一预先确定的时间段与所述第二预先确定的时间段具有相同的长度。
38.根据权利要求27所述的计算机可读存储介质,其中所述音频数据根据互联网协议语音技术(VoIP)标准来传输,所述标准选自:FaceTime音频、实时传输协议、安全实时传输协议、通用数据报协议和传输控制协议。
39.根据权利要求27所述的计算机可读存储介质,其中所述第一控制信号数据根据互联网协议语音技术(VoIP)标准来传输,所述标准选自:实时传输控制协议、实时传输协议和传输控制协议。
说明书 :
语音通信方法
国临时专利申请62/507,167;2017年5月16日提交的名称为“Voice Communication
Method”的美国临时专利申请62/507,195的优先权。以上引用的专利申请的内容据此全文
以引用方式并入。
技术领域
背景技术
发明内容
现有技术需要比所需更多的时间,这导致浪费用户的时间和设备能量。这后一考虑在电池
驱动的设备中是特别重要的。
对用户造成的认知负担并产生更有效的人机界面,例如通过减少或消除设备处的一些不必
要的、无关的和重复的输入。对于电池驱动的计算设备,此类方法和界面节省功率,并且增
大电池充电之间的时间间隔。例如,本文设想的方法和界面通过设备处的显示器提供减少
的处理功率、减少的存储器使用和减少的电池使用。
包括指令,在与外部设备进行全双工实时音频通信会话时,该全双工实时音频通信会话被
配置为传输控制信号数据并单独传输音频数据,这些指令用于:从外部设备接收控制信号
数据,响应于接收到控制信号数据,发出感知通知,在自接收到控制信号数据以来的第一预
先确定的时间段之后,从外部设备接收音频数据,以及在自发出感知通知以来的第二预先
确定的时间段之后,从扬声器输出音频数据。
独传输音频数据,用于从外部设备接收控制信号数据的装置;用于响应于接收到控制信号
数据而发出感知通知的装置;用于在自接收到控制信号数据以来的第一预先确定的时间段
之后从外部设备接收音频数据的装置;以及用于自从发布感知通知以来的第二预先确定的
时间段之后从扬声器输出音频数据的装置。
与联系人相关联的外部设备接收建立电子设备和外部设备之间的全双工实时音频通信会
话的请求,确定该联系人是否在列表上,以及根据确定该联系人在列表上,建立电子设备和
外部设备之间的全双工实时音频通信会话,其中在不接收确认该请求的用户输入的情况下
建立实时音频通信会话。
上的装置;以及用于根据确定该联系人在列表上来建立电子设备和外部设备之间的全双工
实时音频通信会话的装置,其中在不接收确认该请求的用户输入的情况下建立实时音频通
信会话。
号数据并单独传输音频数据,从外部设备接收控制信号数据,响应于接收到控制信号数据,
发出感知通知,在自接收到控制信号数据以来的第一预先确定的时间段之后,从外部设备
接收音频数据,以及在自发出感知通知以来的第二预先确定的时间段之后,从扬声器输出
音频数据。
确定联系人是否在列表上的指令。所述一个或多个程序包括用于根据确定该联系人在列表
上来建立电子设备和外部设备之间的全双工实时音频通信会话的指令,其中在不接收确认
该请求的用户输入的情况下建立实时音频通信会话。
执行,所述一个或多个程序包括指令,在与外部设备进行全双工实时音频通信会话时,该全
双工实时音频通信会话被配置为传输控制信号数据并单独传输音频数据,这些指令用于:
从外部设备接收控制信号数据,响应于接收到控制信号数据,发出感知通知,在自接收到控
制信号数据以来的第一预先确定的时间段之后,从外部设备接收音频数据,以及在自发出
感知通知以来的第二预先确定的时间段之后,从扬声器输出音频数据。
人相关联的外部设备接收在电子设备和外部设备之间建立全双工实时音频通信会话的请
求的指令。所述一个或多个程序包括用于确定联系人是否在列表上的指令。所述一个或多
个程序包括用于根据确定该联系人在列表上来建立电子设备和外部设备之间的全双工实
时音频通信会话的指令,其中在不接收确认该请求的用户输入的情况下建立实时音频通信
会话。
行,所述一个或多个程序包括指令,在与外部设备进行全双工实时音频通信会话时,该全双
工实时音频通信会话被配置为传输控制信号数据并单独传输音频数据,这些指令用于:从
外部设备接收控制信号数据,响应于接收到控制信号数据,发出感知通知,在自接收到控制
信号数据以来的第一预先确定的时间段之后,从外部设备接收音频数据,以及在自发出感
知通知以来的第二预先确定的时间段之后,从扬声器输出音频数据。
相关联的外部设备接收在电子设备和外部设备之间建立全双工实时音频通信会话的请求
的指令。所述一个或多个程序包括用于确定联系人是否在列表上的指令。所述一个或多个
程序包括用于根据确定该联系人在列表上来建立电子设备和外部设备之间的全双工实时
音频通信会话的指令,其中在不接收确认该请求的用户输入的情况下建立实时音频通信会
话。
行指令任选地被包括在被配置用于由一个或多个处理器执行的暂态计算机可读存储介质
或其他计算机程序产品中。
法。
附图说明
具体实施方式
户造成的认知负担,由此提高生产率。此外,此类技术可减少以其他方式浪费在冗余用户输
入上的处理器功率和电池功率。
音通信的示例性技术和用户界面。图9和图11是示出了根据一些实施方案用于语音通信的
方法的流程图。图6AA至图6AI的集合到图6OA至图6OH的集合中的用户界面用于示出下文描
述的过程,包括图9和图11中的过程。图7AA至图7AI的集合到图7EA至图7ED的集合示出了用
于语音通信(包括在联系人之间进行切换)的示例性技术和用户界面。图10为示出根据一些
实施方案的用于语音通信的方法的流程图。图7AA至图7AI的集合到图7EA至图7ED的集合中
的用户界面用于示出下文描述的过程,包括图10中的过程。图8A至图8X示出了用于语音通
信的示例性用户界面。图11为示出根据一些实施方案的语音通信的方法的流程图。图8A至
图8X中的用户界面用于示出下文描述的过程,包括图11中的过程。图12是描述包括接收控
制信号数据和音频数据的语音通信方法的流程图。图13是描述包括建立实时音频通信会话
的语音通信方法的流程图。图14A、图14B、图15和图16用于进一步示出根据一些实施方案的
这些技术(包括图9、图10、图11、图13和图14中所示的过程)。图17示出了在图9、图10、图11、
图13和图14中的语音通信方法中使用的示例性无线通信网络。图18示出了包括在图9、图
10、图11、图13和图14中的语音通信方法中使用的配套设备的通信路径。
二触摸并且类似地第二触摸可被命名为第一触摸,而不脱离各种所述实施方案的范围。第
一触摸和第二触摸两者均为触摸,但是它们不是同一触摸。
所使用的那样,单数形式“一个”和“该”旨在也包括复数形式,除非上下文另外明确地指示。
还将理解的是,本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一
个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”(“includes”、
“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的
特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整
数、步骤、操作、元件、部件和/或其分组。
[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在
检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
通信设备,诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自Apple
Inc.(Cupertino,California)的 设备、iPod 设备、和 设备。任选地
使用其他便携式电子设备,诸如具有触敏表面(例如,触摸屏显示器和/或触控板)的膝上型
电脑或平板电脑。还应当理解的是,在一些实施方案中,该设备并非便携式通信设备,而是
具有触敏表面(例如,触摸屏显示器和/或触控板)的台式计算机。
操纵杆。
应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身
支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏
览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
应用程序被调整和/或变化,和/或在相应应用程序内被调整和/或变化。这样,设备的共用
物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应
用程序。
有时为了方便被叫做“触摸屏”,并且有时被称为或被叫做“触敏显示器系统”。设备100包括
存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多
个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、
输入/输出(I/O)子系统106、其他输入控制设备116和外部端口124。设备100任选地包括一
个或多个光学传感器164。设备100任选地包括用于检测设备100(例如,触敏表面,诸如设备
100的触敏显示器系统112)上的接触的强度的一个或多个接触强度传感器165。设备100任
选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器167(例如,在触敏
表面诸如设备100的触敏显示器系统112或设备300的触控板355上生成触觉输出)。这些部
件任选地通过一个或多个通信总线或信号线103进行通信。
触的力或压力的替代物(代用物)。接触的强度具有值范围,该值范围包括至少四个不同的
值并且更典型地包括上百个不同的值(例如,至少256个)。接触的强度任选地使用各种方法
和各种传感器或传感器的组合来确定(或测量)。例如,在触敏表面下方或相邻于触敏表面
的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中,
来自多个力传感器的力测量值被组合(例如,加权平均)以确定所估计的接触力。类似地,触
笔的压敏顶端任选地用于确定触笔在触敏表面上的压力。另选地,在触敏表面上检测到的
接触区域的大小和/或其变化、接触附近的触敏表面的电容和/或其变化以及/或者接触附
近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。
在一些具体实施中,接触力或压力的替代物测量直接用于确定是否已经超过强度阈值(例
如,强度阈值以对应于替代物测量的单位来描述)。在一些具体实施中,接触力或压力的替
代物测量被转换成估计的力或压力,并且估计的力或压力用于确定是否已超过强度阈值
(例如,强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的
属性,从而允许用户访问用户在实地面积有限的尺寸更小的设备上本来不可访问的附加设
备功能,该尺寸更小的设备用于(例如,在触敏显示器上)显示示能表示和/或接收用户输入
(例如,经由触敏显示器、触敏表面或物理控件/机械控件,诸如旋钮或按钮)。
于设备的另一个部件(例如,外壳)的物理位移、或部件相对于设备的质心的位移。例如,在
设备或设备的部件与用户对触摸敏感的表面(例如,手指、手掌或用户手部的其他部分)接
触的情况下,通过物理位移生成的触觉输出将由用户解释为触感,该触感对应于设备或设
备的部件的物理特征的所感知的变化。例如,触敏表面(例如,触敏显示器或触控板)的移动
任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下,用户将
感觉到触感,诸如“按下点击”或“松开点击”,即使在通过用户的移动而物理地被按压(例
如,被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如,即使在触敏表面的光
滑度无变化时,触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽
然用户对触摸的此类解释将受到用户的个体化感官知觉的限制,但是对触摸的许多感官知
觉是大多数用户共有的。因此,当触觉输出被描述为对应于用户的特定感官知觉(例如,“按
下点击”、“松开点击”、“粗糙度”)时,除非另外陈述,否则所生成的触觉输出对应于设备或
其部件的物理位移,该物理位移将会生成典型(或普通)用户的所述感官知觉。
些部件的不同配置或布置。图1A中所示的各种部件以硬件、软件、或硬件与软件两者的组合
来实现,包括一个或多个信号处理和/或专用集成电路。
控制器122任选地控制设备100的其他部件访问存储器102。
指令集以执行设备100的各种功能并处理数据。在一些实施方案中,外围设备接口118、CPU
120和存储器控制器122任选地被实现在单个芯片诸如芯片104上。在一些其他实施方案中,
它们任选地在独立的芯片上实现。
进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路,包括但不限于天线系
统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯
片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他
设备进行通信,这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸
如,蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。RF电路108任选地包括用于检测
近场通信(NFC)场的熟知的电路,诸如通过近程通信无线电部件来进行检测。无线通信任选
地使用多种通信标准、协议和技术中的任一者,包括但不限于全球移动通信系统(GSM)、增
强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入
(HSUPA)、演进、纯数据(EV‑DO)、HSPA、HSPA+、双单元HSPA(DC‑HSPDA)、长期演进(LTE)、近场
通信(NFC)、宽带码分多址(W‑CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗
(BTLE)、无线保真(Wi‑Fi)(例如,IEEE802.11a、IEEE 802.11b、IEEE 802.11g、IEEE
802.11n和/或IEEE802.11ac)、互联网协议语音(VoIP)、Wi‑MAX、电子邮件协议(例如,互联
网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如,可扩展消息处理和存在协
议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务
(IMPS))、和/或短消息服务(SMS),或者包括在本文档提交日期时还未开发出的通信协议的
任何其他适当的通信协议。
扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风
113从声波转换的电信号。音频电路110将电信号转换为音频数据,并且将音频数据传输到
外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存
储器102和/或RF电路108。在一些实施方案中,音频电路110还包括耳麦插孔(例如,图2中的
212)。耳麦插孔提供音频电路110和可移除的音频输入/输出外围设备之间的接口,该可移
除的音频输入/输出外围设备诸如仅输出的耳机或者具有输出(例如,单耳耳机或双耳耳
机)和输入(例如,麦克风)两者的耳麦。
制器158、强度传感器控制器159、触觉反馈控制器161、和用于其他输入或控制设备的一个
或多个输入控制器160。一个或多个输入控制器160从其他输入控制设备116接收电信号/将
电信号发送到其他输入控制设备116。其他输入控制设备116任选地包括物理按钮(例如,下
压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击式转盘等。在一些另选实施方案中,
输入控制器160任选地耦接至以下各项中的任一者(或不耦接至以下各项中的任一者):键
盘、红外线端口、USB端口以及指向设备诸如鼠标。一个或多个按钮(例如,图2中的208)任选
地包括用于扬声器111和/或麦克风113音量控制的增大/减小按钮。一个或多个按钮任选地
包括下压按钮(例如,图2中的206)。
by Performing Gestures on an Unlock Image”的美国专利申请11/322,549(即,美国专
利No.7,657,849)中所述的,该美国专利申请据此全文以引用方式并入本文。长按下压按钮
(例如206)任选地使设备100开机或关机。一个或多个按钮的功能任选地为用户可定制的。
触摸屏112用于实现虚拟按钮或软按钮以及一个或多个软键盘。
觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实
施方案中,一些视觉输出或全部的视觉输出任选地与用户界面对象对应。
令集一起)检测触摸屏112上的接触(和该接触的任何移动或中断),并且将所检测到的接触
转换为与被显示在触摸屏112上的用户界面对象(例如,一个或多个软键、图标、网页或图
像)的交互。在示例性实施方案中,触摸屏112与用户之间的接触点对应于用户的手指。
156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接
近传感器阵列或用于确定与触摸屏112接触的一个或多个点的其他元件来检测接触及其任
何移动或中断,该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面
声波技术。在示例性实施方案中,使用投射式互电容感测技术,诸如在来自Apple Inc.
(Cupertino,California)的 和iPod 中使用的技术。
932(Westerman等人)和/或美国专利公开2002/0015024A1,该每个专利据此全文以引用方
式并入。然而,触摸屏112显示来自设备100的视觉输出,而触敏触控板不提供视觉输出。
381,313;(2)2004年5月6日提交的名称为“Multipoint Touchscreen”的美国专利申请
No.10/840,862;(3)2004年7月30日提交的名称为“Gestures For Touch Sensitive Input
Devices”的美国专利申请No.10/903,964;(4)2005年1月31日提交的名称为“Gestures For
Touch Sensitive Input Devices”的美国专利申请11/048,264;(5)2005年1月18日提交的
名称为“Mode‑Based Graphical User Interfaces For Touch Sensitive Input
Devices”的美国专利申请No.11/038,590;(6)2005年9月16日提交的名称为“Virtual
Input Device Placement On A Touch Screen User Interface”的美国专利申请No.11/
228,758;(7)2005年9月16日提交的名称为“Operation Of A Computer With A Touch
Screen Interface”的美国专利申请No.11/228,700;(8)2005年9月16日提交的名称为
“Activating Virtual Keys Of A Touch‑Screen Virtual Keyboard”的美国专利申请
No.11/228,737;以及(9)2006年3月3日提交的名称为“Multi‑Functional Hand‑Held
Device”的美国专利申请No.11/367,749。所有这些申请全文以引用方式并入本文。
与触摸屏112接触。在一些实施方案中,将用户界面设计为主要通过基于手指的接触和手势
来工作,由于手指在触摸屏上的接触区域较大,因此这可能不如基于触笔的输入精确。在一
些实施方案中,设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执
行用户所期望的动作。
触敏区域不显示视觉输出。触控板任选地是与触摸屏112分开的触敏表面,或者是由触摸屏
形成的触敏表面的延伸部分。
功率转换器或逆变器、电源状态指示符(例如,发光二极管(LED))以及与便携式设备中的电
力的生成、管理和分配相关联的任何其他部件。
(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器164从环境接收通过一个或
多个透镜而投射的光,并且将光转换为表示图像的数据。结合成像模块143(也叫做相机模
块),光学传感器164任选地捕获静态图像或视频。在一些实施方案中,光学传感器位于设备
100的后部上,与设备前部上的触摸屏显示器112相背对,使得触摸屏显示器能够用作用于
静态图像和/或视频图像采集的取景器。在一些实施方案中,光学传感器位于设备的前部
上,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取该用户的图
像以用于视频会议。在一些实施方案中,光学传感器164的位置可由用户改变(例如,通过旋
转设备外壳中的透镜和传感器),使得单个光学传感器164与触摸屏显示器一起使用,以用
于视频会议和静态图像和/或视频图像采集两者。
个或多个压阻应变仪、电容式力传感器、电气力传感器、压电力传感器、光学力传感器、电容
式触敏表面、或其他强度传感器(例如,用于测量触敏表面上的接触的力(或压力)的传感
器)。接触强度传感器165从环境接收接触强度信息(例如,压力信息或压力信息的代用物)。
在一些实施方案中,至少一个接触强度传感器与触敏表面(例如,触敏显示器系统112)并置
排列或邻近。在一些实施方案中,至少一个接触强度传感器位于设备100的后部上,与位于
设备100的前部上的触摸屏显示器112相背对。
器160。接近传感器166任选地如以下美国专利申请中所述的那样执行:No.11/241,839,名
称为“Proximity Detector In Handheld Device”;No.11/240,788,名称为“Proximity
Detector In Handheld Device”;No.11/620,702,名称为“Using Ambient Light Sensor
To Augment Proximity Sensor Output”;No.11/586,862,名称为“Automated Response
To And Sensing Of User Activity In Portable Devices”;以及No.11/638,251,名称为
“Methods And Systems For Automatic Configuration Of Peripherals”,这些美国专利
申请据此全文以引用方式并入本文。在一些实施方案中,当多功能设备被置于用户的耳朵
附近时(例如,当用户正在进行电话呼叫时),接近传感器关闭并且禁用触摸屏112。
或多个电声设备,诸如扬声器或其他音频部件;和/或将能量转换成线性运动的机电设备,
诸如马达、螺线管、电活性聚合器、压电致动器、静电致动器或其他触觉输出生成部件(例
如,将电信号转换成设备上的触觉输出的部件)。接触强度传感器165从触觉反馈模块133接
收触觉反馈生成指令,并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在
一些实施方案中,至少一个触觉输出发生器与触敏表面(例如,触敏显示器系统112)并置排
列或邻近,并且任选地通过竖直地(例如,向设备100的表面内/外)或侧向地(例如,在与设
备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案
中,至少一个触觉输出发生器传感器位于设备100的后部上,与位于设备100的前部上的触
摸屏显示器112相背对。
加速度计168任选地如以下美国专利公开中所述的那样执行:美国专利公开
No.20050190059,名称为“Acceleration‑based Theft Detection System for Portable
Electronic Devices”和美国专利公开No.20060017692,名称为“Methods And
Apparatuses For Operating A Portable Device Based On An Accelerometer”,这两个
美国专利公开均全文以引用方式并入本文。在一些实施方案中,基于对从一个或多个加速
度计接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。设备100任
选地除了加速度计168之外还包括磁力仪和GPS(或GLONASS或其他全球导航系统)接收器,
以用于获取关于设备100的位置和取向(例如,纵向或横向)的信息。
(或指令集)134、全球定位系统(GPS)模块(或指令集)135以及应用程序(或指令集)136。此
外,在一些实施方案中,存储器102(图1A)或370(图3)存储设备/全局内部状态157,如图1A
和图3中所示。设备/全局内部状态157包括以下中的一者或多者:活动应用程序状态,其指
示哪些应用程序(如果有的话)当前是活动的;显示状态,其指示什么应用程序、视图或其他
信息占据触摸屏显示器112的各个区域;传感器状态,包括从设备的各个传感器和输入控制
设备116获取的信息;以及关于设备的位置和/或姿态的位置信息。
功率管理等)的各种软件部件和/或驱动程序,并且促进各种硬件部件和软件部件之间的通
信。
(例如,通用串行总线(USB)、火线等)适于直接耦接到其他设备,或间接地通过网络(例如,
互联网、无线LAN等)进行耦接。在一些实施方案中,外部端口是与 (Apple Inc.的商
标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如,30针)连接
器。
执行与接触检测相关的各种操作,诸如确定是否已经发生了接触(例如,检测手指按下事
件)、确定接触强度(例如,接触的力或压力,或者接触的力或压力的替代物)、确定是否存在
接触的移动并跟踪在触敏表面上的移动(例如,检测一个或多个手指拖动事件),以及确定
接触是否已经停止(例如,检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表
面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方
向)和/或加速度(量值和/或方向的改变),所述接触点的移动由一系列接触数据表示。这些
操作任选地被应用于单点接触(例如,单指接触)或者多点同时接触(例如,“多点触摸”/多
个手指接触)。在一些实施方案中,接触/运动模块130和显示控制器156检测触控板上的接
触。
来确定强度阈值的至少一个子集(例如,强度阈值不是由特定物理致动器的激活阈值来确
定的,并且可在不改变设备100的物理硬件的情况下被调节)。例如,在不改变触控板或触摸
屏显示器硬件的情况下,触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大
范围中的任一个阈值。另外,在一些具体实施中,向设备的用户提供用于调节一组强度阈值
中的一个或多个强度阈值(例如,通过调节各个强度阈值和/或通过利用对“强度”参数的系
统级点击来一次调节多个强度阈值)的软件设置。
定接触模式来检测手势。例如,检测手指轻击手势包括检测手指按下事件,然后在与手指按
下事件相同的位置(或基本上相同的位置)处(例如,在图标的位置处)检测手指抬起(抬离)
事件。作为另一个示例,在触敏表面上检测手指轻扫手势包括检测手指按下事件,然后检测
一个或多个手指拖动事件,并且随后检测手指抬起(抬离)事件。
或其他视觉特征)的部件。如本文所用,术语“图形”包括可被显示给用户的任何对象,其非
限制性地包括文本、网页、图标(诸如包括软键的用户界面对象)、数字图像、视频、动画等。
个代码,在必要的情况下还一起接收坐标数据和其他图形属性数据,并且然后生成屏幕图
像数据,以输出至显示控制器156。
输出。
输入文本的软键盘。
供给提供基于位置的服务的应用,诸如天气桌面小程序、本地黄页桌面小程序和地图/导航
桌面小程序)。
小程序149‑5、和由用户获取的其他桌面小程序、以及用户创建的桌面小程序149‑6;
字权益管理、语音识别和语音复制。
储器370中的联系人模块137的应用程序内部状态192中),包括:向通讯录添加一个或多个
姓名;从地址簿删除姓名;将电话号码、电子邮件地址、物理地址或其他信息与姓名关联;将
图像与姓名关联;对姓名进行归类和分类;提供电话号码或电子邮件地址来发起和/或促进
通过电话138、视频会议模块139、电子邮件140或IM 141进行的通信;等等。
电话号码对应的字符序列、访问联系人模块137中的一个或多个电话号码、修改已输入的电
话号码、拨打相应的电话号码、进行会话,以及当会话完成时断开或挂断。如上所述,无线通
信任选地使用多种通信标准、协议和技术中的任一种。
块134、联系人模块137和电话模块138,视频会议模块139包括根据用户指令来发起、进行和
终止用户与一个或多个其他参与方之间的视频会议的可执行指令。
电子邮件的可执行指令。结合图像管理模块144,电子邮件客户端模块140使得非常容易创
建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。
应的字符序列、修改先前输入的字符、传输相应即时消息(例如,使用短消息服务(SMS)或多
媒体消息服务(MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE、或IMPS以用于
基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中,
所传输和/或接收的即时消息任选地包括图形、照片、音频文件、视频文件和/或MMS和/或增
强消息服务(EMS)中所支持的其他附件。如本文所用,“即时消息”是指基于电话的消息(例
如,使用SMS或MMS发送的消息)和基于互联网的消息(例如,使用XMPP、SIMPLE或IMPS发送的
消息)两者。
创建健身(例如,具有时间、距离和/或卡路里燃烧目标)的可执行指令;与健身传感器(运动
设备)进行通信;接收健身传感器数据;校准用于监视健身的传感器;为健身选择和播放音
乐;以及显示、存储和传输健身数据。
令:捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视
频的特征,或从存储器102删除静态图像或视频。
控、加标签、删除、呈现(例如,在数字幻灯片或相册中)、以及存储静态图像和/或视频图像
的可执行指令。
至、接收和显示网页或其部分,以及链接至网页的附件和其他文件的可执行指令。
令来创建、显示、修改和存储日历以及与日历相关联的数据(例如,日历条目、待办事项等)
的可执行指令。
应用程序(例如,天气桌面小程序149‑1、股市桌面小程序149‑2、计算器桌面小程序149‑3、
闹钟桌面小程序149‑4和词典桌面小程序149‑5)或由用户创建的微型应用程序(例如,用户
创建的桌面小程序149‑6)。在一些实施方案中,桌面小程序包括HTML(超文本标记语言)文
件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中,桌面小程序包括XML(可
扩展标记语言)文件和JavaScript文件(例如,Yahoo!桌面小程序)。
小程序(例如,将网页的用户指定部分转变为桌面小程序)。
如,一个或多个用户指定的搜索词)匹配的文本、音乐、声音、图像、视频和/或其他文件的可
执行指令。
回放以一种或多种文件格式诸如MP3或AAC文件存储的所记录的音乐和其他声音文件的可
执行指令,以及用于显示、呈现或以其他方式回放视频(例如,在触摸屏112上或在经由外部
端口124连接的外部显示器上)的可执行指令。在一些实施方案中,设备100任选地包括MP3
播放器诸如iPod(Apple Inc.的商标)的功能。
收、显示、修改和存储地图以及与地图相关联的数据(例如,驾驶方向、与特定位置处或附近
的商店及其他兴趣点有关的数据,以及其他基于位置的数据)。
视频模块155包括用于执行以下操作的指令:允许用户访问、浏览、接收(例如,通过流式传
输和/或下载)、回放(例如在触摸屏上或在经由外部端口124所连接的外部显示器上)、发送
具有至特定在线视频的链接的电子邮件,以及以其他方式管理一种或多种文件格式诸如
H.264的在线视频。在一些实施方案中,使用即时消息模块141而不是电子邮件客户端模块
140来发送特定在线视频的链接。在线视频应用程序的其他描述可见于2007年6月20日提交
的名称为“Portable Multifunction Device,Method,and Graphical User Interface
for Playing Online Videos”的美国临时专利申请No.60/936,562和2007年12月31日提交
的名称为“Portable Multifunction Device,Method,and Graphical User Interface
for Playing Online Videos”的美国专利申请No.11/968,067,这两个专利申请的内容据
此全文以引用方式并入本文。
集。这些模块(例如,指令集)不必以独立的软件程序、过程或模块实现,因此这些模块的各
种子集任选地在各种实施方案中组合或以其他方式重新布置。例如,视频播放器模块任选
地与音乐播放器模块组合成单个模块(例如,图1A中的视频和音乐播放器模块152)。在一些
实施方案中,存储器102任选地存储上述模块和数据结构的子组。此外,存储器102任选地存
储上文未描述的另外的模块和数据结构。
主要输入控制设备,任选地减少设备100上的物理输入控制设备(例如,下压按钮、拨盘等
等)的数量。
任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中,使用触控板来实现
“菜单按钮”。在一些其他实施方案中,菜单按钮是物理下压按钮或者其他物理输入控制设
备,而不是触控板。
以及相应的应用程序136‑1(例如,前述应用程序137至151、155、380至390中的任一个应用
程序)。
174。在一些实施方案中,应用程序136‑1包括应用程序内部状态192,该应用程序内部状态
指示当应用程序是活动的或正在执行时被显示在触敏显示器112上的一个或多个当前应用
程序视图。在一些实施方案中,设备/全局内部状态157被事件分类器170用来确定哪个(哪
些)应用程序当前是活动的,并且应用程序内部状态192被事件分类器170用来确定要将事
件信息递送到的应用程序视图191。
于被应用程序136‑1显示的用户界面状态信息、用于使得用户能够返回到应用程序136‑1的
前一状态或视图的状态队列,以及用户采取的先前动作的重复/撤销队列。
传输其从I/O子系统106或传感器诸如接近传感器166、一个或多个加速度计168和/或麦克
风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106接收的信息包括
来自触敏显示器112或触敏表面的信息。
当存在显著事件(例如,接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续
时间的输入)时才传输事件信息。
控件和其他元素构成。
(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的
程序化水平。例如,在其中检测到触摸的最低水平视图任选地被称为命中视图,并且被识别
为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定,所述初始触摸开
始基于触摸的手势。
件进行处理的分级结构中的最低视图。在大多数情况下,命中视图是发起子事件(例如,形
成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中
视图被命中视图确定模块172识别,命中视图便通常接收与其被识别为命中视图所针对的
同一触摸或输入源相关的所有子事件。
子事件序列。在其他实施方案中,活动事件识别器确定模块173确定包括子事件的物理位置
的所有视图是活跃参与的视图,并因此确定所有活跃参与的视图都应接收特定子事件序
列。在其他实施方案中,即使触摸子事件完全被局限到与一个特定视图相关联的区域,分级
结构中的较高视图将仍然保持为活跃参与的视图。
动事件识别器确定模块173确定的事件识别器。在一些实施方案中,事件分配器模块174在
事件队列中存储事件信息,该事件信息由相应事件接收器182进行检索。
102中的另一个模块(诸如,接触/运动模块130)的一部分。
触摸事件的指令。应用程序136‑1的每个应用程序视图191包括一个或多个事件识别器180。
通常,相应应用程序视图191包括多个事件识别器180。在其他实施方案中,事件识别器180
中的一个或多个事件识别器是独立模块的一部分,该独立模块为诸如用户界面工具包或应
用程序136‑1从中继承方法和其他属性的更高级别的对象。在一些实施方案中,相应事件处
理程序190包括以下各项中的一者或多者:数据更新器176、对象更新器177、GUI更新器178、
和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新
器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地,应用程序视
图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外,在一些
实施方案中,数据更新器176、对象更新器177和GUI更新器178中的一者或多者包括在相应
应用程序视图191中。
案中,事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指
令)的至少一个子集。
子事件涉及触摸的运动时,事件信息任选地还包括子事件的速率和方向。在一些实施方案
中,事件包括设备从一个取向旋转到另一取向(例如,从纵向取向旋转到横向取向,或反之
亦然),并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
比较器184包括事件定义186。事件定义186包含事件的定义(例如,预定义的子事件序列),
例如事件1(187‑1)、事件2(187‑2)以及其他。在一些实施方案中,事件(187)中的子事件例
如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中,事件1(187‑1)
的定义是被显示对象上的双击。例如,双击包括被显示对象上的预先确定时长的第一触摸
(触摸开始)、预先确定时长的第一抬离(触摸结束)、被显示对象上的预先确定时长的第二
触摸(触摸开始)以及预先确定时长的第二抬离(触摸结束)。在另一个示例中,事件2(187‑
2)的定义是被显示对象上的拖动。例如,拖动包括被显示对象上的预先确定时长的触摸(或
接触)、触摸在触敏显示器112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中,
事件还包括用于一个或多个相关联的事件处理程序190的信息。
例如,在触敏显示器112上显示三个用户界面对象的应用程序视图中,当在触敏显示器112
上检测到触摸时,事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用
户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关
联,则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如,
事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。
手势的后续子事件。在这种情况下,对于命中视图保持活动的其他事件识别器(如果有的
话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
一些实施方案中,元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置
属性、标志和/或列表。在一些实施方案中,元数据183包括指示子事件是否递送到视图或程
序化分级结构中的不同层级的可配置属性、标志和/或列表。
件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送
(和延期发送)到相应命中视图。在一些实施方案中,事件识别器180抛出与所识别的事件相
关联的标记,并且与该标记相关联的事件处理程序190获取该标记并执行预定义过程。
相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相
关联的事件处理程序接收事件信息并执行预先确定的过程。
模块中所使用的视频文件进行存储。在一些实施方案中,对象更新器177创建和更新在应用
程序136‑1中使用的对象。例如,对象更新器177创建新的用户界面对象或更新用户界面对
象的位置。GUI更新器178更新GUI。例如,GUI更新器178准备显示信息,并且将显示信息发送
到图形模块132用以显示在触敏显示器上。
177和GUI更新器178被包括在相应应用程序136‑1或应用程序视图191的单个模块中。在其
他实施方案中,它们被包括在两个或更多个软件模块中。
上发起的。例如,任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下;触
控板上的接触移动,诸如轻击、拖动、滚动等;触笔输入;设备的移动;口头指令;检测到的眼
睛移动;生物特征输入;和/或它们的任何组合任选地被用作对应于限定要识别的事件的子
事件的输入。
施方案中,用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多
支触笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图
形。在一些实施方案中,当用户中断与一个或多个图形的接触时,将发生对一个或多个图形
的选择。在一些实施方案中,手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、
从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向
右、向上和/或向下)。在一些具体实施中或在一些情况下,不经意地与图形接触不会选择图
形。例如,当与选择对应的手势是轻击时,在应用程序图标上方扫动的轻扫手势任选地不会
选择对应的应用程序。
用程序136。另选地,在一些实施方案中,菜单按钮被实现为被显示在触摸屏112上的GUI中
的软键。
210、耳麦插孔212和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且
将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机;通过压下该按钮
并在该预定义的时间间隔过去之前释放该按钮来锁定设备;和/或对设备进行解锁或发起
解锁过程。在另选的实施方案中,设备100还通过麦克风113接受用于激活或去激活某些功
能的语音输入。设备100还任选地包括用于检测触摸屏112上的接触的强度的一个或多个接
触强度传感器165,和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生
器167。
脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例
如,家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或
多个网络或其他通信接口360、存储器370和用于使这些部件互连的一个或多个通信总线
320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时
称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330,该显示器通常是触
摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触控板355、
用于在设备300上生成触觉输出的触觉输出发生器357(例如,类似于以上参考图1A所述的
一个或多个触觉输出发生器167)、传感器359(例如,光学传感器、加速度传感器、接近传感
器、触敏传感器和/或接触强度传感器(类似于以上参考图1A所述的一个或多个接触强度传
感器165))。存储器370包括高速随机存取存储器,诸如DRAM、SRAM、DDR RAM或其他随机存取
固态存储器设备;并且任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、光盘存
储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU
310定位的一个或多个存储设备。在一些实施方案中,存储器370存储与便携式多功能设备
100(图1A)的存储器102中存储的程序、模块和数据结构类似的程序、模块和数据结构或其
子集。此外,存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程
序、模块和数据结构。例如,设备300的存储器370任选地存储绘图模块380、呈现模块382、文
字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390,而便携式多功
能设备100(图1A)的存储器102任选地不存储这些模块。
程序(例如,指令集)不必被实现为单独的软件程序、过程或模块,并且因此这些模块的各种
子集任选地在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中,存储器
370任选地存储上述模块和数据结构的子组。此外,存储器370任选地存储上面未描述的另
外的模块和数据结构。
括以下元件或者其子集或超集:
签。在一些实施方案中,相应应用程序图标的标签包括与该相应应用程序图标对应的应用
程序的名称。在一些实施方案中,特定应用程序图标的标签不同于与该特定应用程序图标
对应的应用程序的名称。
任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如,传
感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个
触觉输出发生器357。
如图4B中所示。在一些实施方案中,触敏表面(例如,图4B中的451)具有与显示器(例如,
450)上的主轴(例如,图4B中的453)对应的主轴(例如,图4B中的452)。根据这些实施方案,
设备检测在与显示器上的相应位置对应的位置(例如,在图4B中,460对应于468并且462对
应于470)处与触敏表面451的接触(例如,图4B中的460和462)。这样,在触敏表面(例如,图
4B中的451)与多功能设备的显示器(图4B中的450)分开时,由设备在触敏表面上检测到的
用户输入(例如,接触460和462以及它们的移动)被该设备用于操控显示器上的用户界面。
应当理解,类似的方法任选地用于本文所述的其他用户界面。
手指输入由来自另一输入设备的输入(例如,基于鼠标的输入或触笔输入)替代。例如,轻扫
手势任选地由鼠标点击(例如,而不是接触),之后是光标沿着轻扫的路径的移动(例如,而
不是接触的移动)替代。又如,轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标
点击(例如,代替对接触的检测,之后是停止检测接触)替代。类似地,当同时检测到多个用
户输入时,应当理解的是,多个计算机鼠标任选地被同时使用,或鼠标和手指接触任选地被
同时使用。
在一些实施方案中,设备500具有在下文中称为触摸屏504的触敏显示屏504。作为触摸屏
504的替代或补充,设备500具有显示器和触敏表面。与设备100和300的情况一样,在一些实
施方案中,触摸屏504(或触敏表面)任选地包括用于检测所施加的接触(例如,触摸)强度的
一个或多个强度传感器。触摸屏504(或触敏表面)的一个或多个强度传感器可提供表示触
摸的强度的输出数据。设备500的用户界面可基于触摸的强度来对触摸作出响应,这意味着
不同强度的触摸可调用设备500上的不同用户界面操作。
User Interface Objects Corresponding to an Application”的国际专利申请序列
No.PCT/US2013/040061,发布为WIPO专利公开No.WO/2013/169849;以及2013年11月11日提
交的名称为“Device,Method,and Graphical User Interface for Transitioning
Between Touch Input to Display Output Relationships”的国际专利申请序列No.PCT/
US2013/069483,发布为WIPO专利公开No.WO/2014/105276,该每个专利申请据此全文以引
用方式并入。
在一些实施方案中,设备500具有一个或多个附接机构。此类附接机构(如果包括的话)可允
许将设备500与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、
钱包、背包等附接。这些附接机构允许用户穿戴设备500。
514与一个或多个计算机处理器516和存储器518操作性地耦接。I/O部分514可连接到显示
器504,该显示器可具有触敏部件522并且任选地具有强度传感器524(例如,接触强度传感
器)。此外,I/O部分514可与通信单元530连接,用于使用Wi‑Fi、蓝牙、近场通信(NFC)、蜂窝
和/或其他无线通信技术来接收应用程序和操作系统数据。设备500可包括输入机构506和/
或508。例如,输入机构506任选地是可旋转输入设备或者可按压输入设备以及可旋转输入
设备。在一些示例中,输入机构508任选地是按钮。
感器538和/或其组合,所有这些设备均可操作地连接到I/O部分514。
执行时可使得计算机处理器执行下文所述的技术,包括过程900至1100(图9至图11)以及过
程1200和1300(图12和图13)。计算机可读存储介质可以是可有形地包含或存储计算机可执
行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。在一些实施例中,存储
介质是暂态计算机可读存储介质。在一些实施例中,存储介质是非暂态计算机可读存储介
质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体
存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或蓝光技术的光盘,以及持久性固态
存储器诸如闪存、固态驱动器等。个人电子设备500不限于图5B的部件和配置,而是可包括
多种配置中的其他部件或附加部件。
和文本(例如,超链接)任选地各自构成示能表示。
器”,使得当光标在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)上方时
在触敏表面(例如,图3中的触控板355或图4B中的触敏表面451)上检测到输入(例如,按压
输入)的情况下,该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触
摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如,图1A中的触敏显示器系
统112或图4A中的触摸屏112)的一些具体实施中,在触摸屏上所检测到的接触充当“焦点选
择器”,使得当在触摸屏显示器上在特定用户界面元素(例如,按钮、窗口、滑块或其他用户
界面元素)的位置处检测到输入(例如,由接触进行的按压输入)时,该特定用户界面元素根
据所检测到的输入而被调节。在一些具体实施中,焦点从用户界面的一个区域移动到用户
界面的另一个区域,而无需光标的对应移动或触摸屏显示器上的接触的移动(例如,通过使
用制表键或箭头键将焦点从一个按钮移动到另一个按钮);在这些具体实施中,焦点选择器
根据焦点在用户界面的不同区域之间的移动而移动。不考虑焦点选择器所采取的具体形
式,焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如,通过向
设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上
的接触)。例如,在触敏表面(例如,触控板或触摸屏)上检测到按压输入时,焦点选择器(例
如,光标、接触或选择框)在相应按钮上方的位置将指示用户期望激活相应按钮(而不是设
备显示器上示出的其他用户界面元素)。
选地基于相对于预定义事件(例如,在检测到接触之后,在检测到接触抬离之前,在检测到
接触开始移动之前或之后,在检测到接触结束之前,在检测到接触的强度增大之前或之后
和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如,0.05秒、0.1
秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。
接触的特征强度任选地基于以下各项中的一者或多者:接触的强度的最大值、接触的强度
的均值、接触的强度的平均值、接触的强度的前10%处的值、接触的强度的半最大值、接触
的强度的90%最大值等。在一些实施方案中,在确定特征强度时使用接触的持续时间(例
如,在特征强度是接触的强度在时间上的平均值时)。在一些实施方案中,将特征强度与一
组一个或多个强度阈值进行比较,以确定用户是否已执行操作。例如,该组一个或多个强度
阈值任选地包括第一强度阈值和第二强度阈值。在该示例中,特征强度未超过第一阈值的
接触导致第一操作,特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操
作,而特征强度超过第二阈值的接触导致第三操作。在一些实施方案中,使用特征强度与一
个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如,是执行相应操作还是
放弃执行相应操作)而不是用于确定执行第一操作还是第二操作。
置处,接触强度增加。在该示例中,接触在结束位置处的特征强度任选地仅基于连续轻扫接
触的一部分,而不是整个轻扫接触(例如,仅结束位置处的轻扫接触的部分)。在一些实施方
案中,在确定接触的特征强度之前任选地向轻扫接触的强度应用平滑算法。例如,平滑化算
法任选地包括以下各项中的一种或多种:不加权滑动平均平滑化算法、三角平滑化算法、中
值滤波器平滑化算法和/或指数平滑化算法。在一些情况下,这些平滑化算法消除了轻扫接
触的强度中的窄的尖峰或凹陷,以实现确定特征强度的目的。
方案中,轻按压强度阈值对应于这样的强度:在该强度下设备将执行通常与点击物理鼠标
或触控板的按钮相关联的操作。在一些实施方案中,深按压强度阈值对应于这样的强度:在
该强度下设备将执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在
一些实施方案中,当检测到特征强度低于轻按压强度阈值(例如,并且高于标称接触检测强
度阈值,比标称接触检测强度阈值低的接触不再被检测到)的接触时,设备将根据接触在触
敏表面上的移动来移动焦点选择器,而不执行与轻按压强度阈值或深按压强度阈值相关联
的操作。一般来讲,除非另有陈述,否则这些强度阈值在不同组的用户界面附图之间是一致
的。
强度增大到高于深按压强度阈值的强度有时被称为“深按压”输入。接触特征强度从低于接
触检测强度阈值的强度增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时
被称为检测到触摸表面上的接触。接触特征强度从高于接触检测强度阈值的强度减小到低
于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬离。在一些实施方案中,
接触检测强度阈值为零。在一些实施方案中,接触检测强度阈值大于零。
少部分地基于检测到该接触(或多个接触)的强度增大到高于按压输入强度阈值而检测到
相应按压输入。在一些实施方案中,响应于检测到相应接触的强度增大到高于按压输入强
度阈值(例如,相应按压输入的“向下冲程”)来执行相应操作。在一些实施方案中,按压输入
包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于按
压输入强度阈值,并且响应于检测到相应接触的强度随后减小到低于按压输入阈值(例如,
相应按压输入的“向上冲程”)来执行相应操作。
阈值比按压输入强度阈值低X个强度单位,或滞后强度阈值是按压输入强度阈值的75%、
90%或某个合理比例)。因此,在一些实施方案中,按压输入包括相应接触的强度增大到高
于按压输入强度阈值以及该接触的强度随后减小到低于对应于按压输入强度阈值的滞后
强度阈值,并且响应于检测到相应接触的强度随后减小到低于滞后强度阈值(例如,相应按
压输入的“向上冲程”)来执行相应操作。类似地,在一些实施方案中,仅在设备检测到接触
强度从等于或低于滞后强度阈值的强度增大到等于或高于按压输入强度阈值的强度并且
任选地接触强度随后减小到等于或低于滞后强度的强度时才检测到按压输入,并且响应于
检测到按压输入(例如,根据环境,接触强度增大或接触强度减小)来执行相应操作。
的描述:接触强度增大到高于按压输入强度阈值、接触强度从低于滞后强度阈值的强度增
大到高于按压输入强度阈值的强度、接触强度减小到低于按压输入强度阈值、和/或接触强
度减小到低于与按压输入强度阈值对应的滞后强度阈值。另外,在将操作描述为响应于检
测到接触的强度减小到低于按压输入强度阈值而执行的示例中,任选地响应于检测到接触
的强度减小到低于对应于并且小于按压输入强度阈值的滞后强度阈值来执行操作。
用利用安装程序而变为已安装的应用,安装程序从下载的软件包提取程序部分并将提取的
部分与计算机系统的操作系统集成。
中的应用是任选地以下类型的应用中的任一者:
的应用进程以及从设备的存储器移除应用的状态信息。一般来讲,当在第一应用中时,打开
第二应用并不关闭第一应用。在显示第二应用并且第一应用停止显示时,第一应用变为后
台应用。
根据各种互联网协议语音(VoIP)方法来向移动设备1700和从该移动设备传输媒体(例如,
语音、视频、多媒体)数据。一般来讲,VoIP是指通过互联协议(IP)网络(例如,公共互联网)
而不是传统电路交换网络(诸如公共交换电话网)来传送多媒体和/或语音通信会话的技术
或方法。具体地讲,VoIP通信涉及启用VoIP的设备与在设备上记录的模拟语音信号的数字
转换之间的信令和信道设置(有时称为会话发起)。然后,在分组交换网络(例如,通信信道
1704)的一个或多个信道上将数字化媒体数据以IP数据分组(使用合适的音频或视频编解
码器编码)的形式传输。通常,这些IP数据分组根据特定VoIP标准以标准格式进行结构化,
使得支持VoIP的设备能够识别媒体、控制和其他信息。
1702(例如,包括互联网服务器的网络)与远程设备1706(例如,具有设备100、300或500的一
个或多个特征的外部设备)进行通信。如下文更详细讨论的,移动设备1700可选地还建立辅
通信信道1708。在图17的示例中,辅通信信道1708是蜂窝网络RAT,由此移动设备1700通过
蜂窝基站与外部设备1706通信。应当理解,该示例仅是例示性的。辅通信信道1708可选地也
是WiFi RAT或任何其他合适的无线电接入技术。建立辅通信信道1708可选地允许移动设备
1700在主信道1704上的上行链路质量下降的情况下切换到另一个更合适的通信信道。
Applications”的美国专利9,325,941,2014年7月23日提交的名称为“Redundant
Transmission Channels for Real‑Time Applications on Mobile Devices”的美国专利
9,350,770,2013年9月6日提交并作为WIPO出版物号WO/2014/039843公布的名称为
“Adaptive Jitter Buffer Management for Networks with Varying Conditions”的美
国专利公布2014/0072000,以及2016年3月15日提交的名称为“Communication Channel
Management for Real‑Time Applications”的美国专利9,628,758,这些专利中的每一个
均据此相对于其对语音通信技术和协议的讨论以引用方式并入。
施方案。
用户界面用于示出下文描述的过程,包括图9和图11所示的过程。应当注意,本文提供的用
户界面流仅是本文所公开的语音通信技术中可用的多种可能流的一些示例,并且在一些情
况下,在不脱离本发明的精神的情况下可修改和/或重新布置用户界面流。
1A‑B、图3和图5A‑B)。为清楚起见,图6AA至图6AI中的上面一排图示对应于在设备600上显
示的用户界面,下面一排图示对应于在设备699a上显示的用户界面。为了便于描述,设备
699a被称为外部设备699a。设想设备600和699a中的每一个在连同触敏表面的显示屏(换句
话讲,触敏显示屏)上显示下文所述的用户界面。还设想设备600和699a中的每一个包括用
于检测语音输入的麦克风(例如,上述的输入机构508、麦克风113)和用于输出包括语音数
据在内的可听数据的扬声器(例如,扬声器111),但此类部件可在外部与设备(例如,耳机)
通信地提供。
699a处的用户是名叫Jane Appleseed(也称为“Jane”)的联系人(在本文中也称为外部联系
人)。在设备600处,通话用户界面602包括表示外部设备699a处的外部联系人的示能表示,
诸如表示Jane的图像或头部特写的联系人示能表示604。在其中联系人的图像不可用的示
例中,在该示能表示处提供其他表示,诸如基于联系人姓名的首字母和最后一个字母的组
合图案和/或未知剪影。在如下所述的一些示例中,联系人示能表示604和/或其上显示的视
觉指示和动画提供指示何时在设备600处从联系人的设备699a接收语音通信的视觉反馈。
表示606可包括传送用于激活的指令的文本,诸如“按住通话”。在一些示例中,当在通话示
能表示上606(例如,在触敏显示屏上对应于该示能表示的位置处,在本文中也被称为示能
表示的轻击目标区域)上保持检测到触摸输入时,该示能表示被激活一段时间。例如,在抬
离之前保持与触敏显示屏长时间接触的按压并保持手势(例如,手指手势)限定了通话示能
表示606被激活以使得从设备600(例如,John的设备)处的扬声器捕获语音输入并将对应于
该语音输入的语音数据发送至外部设备699a的持续时间。
表示606上的第一轻击激活通话示能表示606,该示能表示保持激活,直到检测到通过示能
表示606上随后的第二轻击输入,该第二轻击输入停用其功能,从而在打开和关闭通话示能
表示之间切换。另外,可实现各种其他手势,诸如多个手指(例如,多点触摸输入)手势,不同
于关闭手势(例如,双击)的打开手势(例如,单轻击),和/或通过物理按钮激活通话示能表
示606,以引起与通话示能表示606相关联的功能。在如下所述的一些示例中,通话示能表示
606和/或其上显示的视觉指示和动画提供指示何时在设备600处捕获语音通信并传输到联
系人的设备699a的视觉反馈。
人相关联。在本示例中,视觉指示608是围绕联系人示能表示604和通话示能表示606的单个
边界,诸如围绕圆形示能表示604、606的两个合并圆形。例如,该单个边框是在示能表示
604、606处或其后面显示的突出显示的区域或背景,其不同于通话用户界面602的剩余部分
中的背景。例如,单个边框是围绕联系人示能表示604和通话示能表示606的实心白色背景,
而通话用户界面602的剩余背景为黑色。在一些示例中,当在通话用户界面602中显示时,视
觉指示608将通信中的联系人与不在通信中的其他联系人区分开。附加的和/或另选的视觉
指示包括在联系人示能表示604和通话示能表示606处匹配颜色,动画,两个单独显示的示
能表示604、606之间的视觉联系等。在另一方面,包括通话示能表示606和单个联系人示能
表示604而不显示其他联系人的通话用户界面602本身为视觉指示,表明通话示能表示606
当前仅与该联系人相关联。
699a接收的代表Jane的语音的语音数据。开关612显示在打开位置,并且可被切换(例如,经
由轻击输入)到关闭以断开设备600与特定联系人Jane的语音通信,和/或与所有联系人断
开语音通信,如下文进一步所述。
中,设备600是可穿戴电子设备,诸如具有上述一个或多个输入机构506和508的智能手表,
诸如物理上可旋转的输入机构616(例如,可旋转表冠)和/或物理按钮机构618。还应当注
意,在本示例中,通话示能表示606具有比显示在通话用户界面602中的其他示能表示604、
606、610、612更大的轻击目标区域(例如,激活区域)和在触敏显示器上的居中放置,以促进
轻松激活,同时防止意外触摸输入激活其他示能表示。
素和语音通信功能的类似通话用户界面602a,包括联系人示能表示604a、通话示能表示
606a、视觉指示608a、音量指示符610a、免打扰切换器或开关612a,以及当前时间614a。在设
备699a处,联系人示能表示604a包括在设备600处的John的图像或头部特写表示,并且视觉
指示608a指示通话示能表示606a或通常在通话用户界面602a本身处发生的语音通信与
John的设备600相关联。应当注意,虽然在本示例中通话用户界面602、602a大致相似,但在
一些示例中,可通过用户定制来改变或调节其显示的各方面,诸如图形元素和示能表示的
颜色、取向和放置。为清楚起见,在附图的描述中,本文所述的元素和示能表示的参考线和
数字可能不会在每个图中都重复显示,但可根据附图中所示的实施方案来包括或显示元素
和示能表示。
699a两者当前可用于捕获语音输入并将对应于语音输入的语音数据从相应发送端发送到
相应接收端(在该接收端处接收的语音数据被立即并自动地输出)时,通话用户界面602才
被显示在设备600处。在一些示例中,通信信道仅限于和专用于设备600和699a,使得其他外
部设备不具有用于连接到该通信信道的访问权限。如下文进一步所述,在一些示例中,通信
信道要求设备600、699a中的每一个直接连接和/或经由中继配套设备连接到通信网络,诸
如上述无线通信网络,包括Wi‑Fi和蜂窝网络以及蓝牙连接。
可能的通信通路。在一些示例中,外部设备1802直接连接到设备1800,使得外部设备1802传
输(或接收)的数据在设备1800和1802之间没有中间配套设备(例如,设备1804)的直接通信
信道1808上传输。在这种情况下,实时语音通信会话(例如,根据下文所述的过程900、1000、
1100、1200和/或1300)在设备1800和外部设备1802之间直接建立。
一语音通信会话1810(例如,根据过程900、1000、1100、1200和/或1300的会话),而中继语音
通信会话1812(例如,根据过程900、1000、1100、1200和/或1300的会话)在配套设备1804和
设备1800之间同时建立。然后,可以使用中继语音通信会话1812将通过第一语音通信会话
1810从外部设备1802接收的数据中继到设备1800。
TM
的通信会话(例如,FaceTime Audio 呼叫或标准电话呼叫)的标准呼叫套件。用户可以使该
标准呼叫套件变得明显(例如,通过在通话期间在配套设备上显示横幅通知以及与该呼叫
套件有关的其他通知),并且设备1800和配套设备1804上的其他应用程序可以通过各自的
应用程序接口(API)看到该标准呼叫套件。然而,过程900、1000、1100、1200和/或1300的中
继通信会话可以由设备1800和配套设备1804上的特殊呼叫套件处理。即使在中继通信会话
上传输的数据与标准呼叫相同,该特殊呼叫套件也可能不会在配套设备1804上提供任何通
知,并且可能会通过其API对配套设备1804上的某些或所有其他应用程序隐藏。由于根据方
法900、1000、1100、1200和/或1300处理语音通信会话的专用呼叫套件以一种或多种方式对
配套设备1804不太可见,因此设备1800和外部设备1802之间的直接通信会话可以与涉及配
套设备1804的中继通信会话相同的方式向用户呈现。
1804使用第一RAT(例如WiFi)在主通信信道上与外部设备1802建立第一语音通信会话
1810,并且使用第二RAT(例如蜂窝网络)与外部设备1802建立第二(冗余)通信信道。响应于
主通信信道上的上行链路质量的下降或恶化(例如,过多的数据分组丢失,延迟问题等),配
套设备1804可选地建立辅通信信道代替主要通信信道来向外部设备1802传输语音和/或控
制数据。这在一些情况下确保设备1800和外部设备1802之间的更高质量的通信,以及防止
挂断和中断的会话。
6AB所示的一些示例中,响应于在通话示能表示606处检测到触摸输入620,设备600发出包
括触觉输出和/或可听输出的感知输出622。在实施过程中,感知输出622有助于模拟无线对
讲机式通信体验,并且在激活设备600处的麦克风之前和/或在麦克风处捕获语音输入之前
发出,从而向John指示他是在线的,并且语音输入即将被捕获并传输到Jane的外部设备
699a。
输入指示624提供对通话示能表示606被激活的视觉反馈,换句话讲,设备600在激活持续期
间正在捕获(例如,注册)在麦克风处检测到的任何语音输入,并且同时向外部设备699a发
送对应于语音输入的语音数据。例如,如图6AC至图6AF所示,在John正在大声地说话的同
时,在触摸输入620的持续时间内显示视觉输入指示624,其中John的语音被捕获在麦克风
上并且被发送至外部设备699a。在当前示例中,视觉输入指示624是从通话示能表示606和/
或围绕通话示能表示606的圆圈开始的纹波动画。附加地和/或另选地,视觉输入指示可包
括在激活期间改变通话示能表示606的颜色和/或通话用户界面602的背景以将通话示能表
示606与未激活状态区分开。如图6AB至图6AF所示,触摸输入620在激活持续时间内保持在
通话示能表示606上,并且在检测到图6AG处的持续触摸输入620的抬离时,通话示能表示
606的激活停止。当不再激活通话示能表示606时,视觉输入指示624消失,指示设备600当前
未捕获语音输入和将语音数据发送至外部设备699a,并且在一些情况下关闭设备600处的
麦克风。在另外的示例中,设备600在检测到通话示能表示606的抬离或停用时发出另一感
知输出,以进一步指示不再捕获语音输入并且不再从设备600发送传出数据。
括触觉输出和/或可听输出。在一些情况下,感知通知626a同时包括同时发出的触觉输出和
可听输出(例如,振动和响铃)。在实施过程中,感知通知626a指示正在接收通过通信信道的
传入语音数据,并且很快将在设备699a处的扬声器处自动输出。在一些示例中,感知通知
626a类似于响应于激活而在John的发送设备600处发出的感知输出622,和/或同时或几乎
同时在设备600、699a两者处发生,具体取决于网络延迟和其他因素。在一些示例中,感知通
知626a不同于感知输出622,并且/或者感知通知626a对于发送联系人是唯一的,使得接收
端处的用户可在不目视观察通话用户界面602a的情况下立即区分传入语音数据的来源。在
一些示例中,感知通知626a有助于模拟无线对讲机式通信体验,并且在发起对应于传入语
音数据本身的音频输出之前发出,从而向Jane提供有关正在接收语音数据并且即将发生其
输出的指示。
实时音频通信会话占据一个或多个通信信道并且被配置为在设备600和699之间传输控制
信号数据以及媒体(例如,音频)数据。在图15的实施方案中,实时音频通信会话占据控制信
道1502和连接设备600和699b的独立媒体信道1506。例如,媒体信道1506可选地为根据实时
传输协议(RTP)标准传输实时音频数据的VoIP信道。在这种情况下,控制信道1502可选地为
根据实时传输控制协议(RTCP)标准传输控制信号数据的单独VoIP信道。在一些实施方案
中,在John的设备600和Jane的设备699之间建立实时音频通信会话,然后才可激活通话示
能表示606或通话示能表示606a。
设备600上的通话示能表示606时,控制信号数据1504被传输至设备699a。在上述示例中,控
制信号1504可选地在实时传输控制协议(RTCP)信号的应用程序特定的数据中编码。在图15
的示例中,控制信号1504呈现为控制信道1504上的上升信号边缘(例如,信号从默认低状态
变高)。在未示出的其他实施方案中,控制信号1504可选地呈现为稳态高信号(例如,控制信
道1502上的下降信号边缘)中的中断。
讨论,在一些情况下,感知通知向设备699a的用户指示外部设备上的通话示能表示(例如,
设备600上的通话示能表示606)已被激活并且对应的音频数据正在传入。
布在通过媒体信道1506传输的现有音频数据流中,其中数字数据流对语音信号(例如,在激
活通话示能表示606之后由外部设备600上的麦克风(例如,麦克风113)拾取的语音信号)进
行编码。在全双工音频会话的情况下,基线音频数据1508(例如,来自静音麦克风的基线信
号)可选地仍然在媒体信道1506上传输,即使其不对设备600处记录的语音信号进行编码。
在这种情况下,基线音频数据可选地以比对语音信号进行编码的音频数据1510更低的比特
率传输。音频数据1510和基线音频数据1508可选地使用MPEG、AWS、EVS、ACELD或适用于实时
应用的任何其他音频编解码器进行压缩。在图15的实施方案中,在接收控制信号数据1504
和接收语音音频数据1510之间存在预先确定的时间段1512。该预先确定的时间段可以是
100ms、150ms、250ms、500ms、1s或另一个其他合适的时间段。
式转换为模拟声音或语音信号。在一些实施方案中,在发出感知通知和回放语音音频数据
1510之间存在第二预先确定的时间段。该第二预先确定的时间段可以是100ms、150ms、
250ms、500ms、1s或另一个合适的时间段。在一个此类实施方案中,接收控制信号与接收音
频数据之间的预先确定的时间段和发出感知通知与输出音频数据之间的预先确定的时间
段相同。在其他实施方案中,第一预先确定的时间段为与第二预先确定的时间段不同的持
续时间。
禁用通话示能表示606a,从而阻止设备699a的用户激活麦克风。在另一个此类实施方案中,
设备699a可选地响应于接收到控制信号而静默其与媒体信道1506的上行链路连接,从而防
止音频数据被发送至设备600。由于控制信号数据1504在传入语音音频数据1510之前被接
收,因此以这种方式禁用对麦克风的音频输入有效地防止设备699a在接收语音音频数据
1510之前立即和回放该语音音频数据期间向设备600发送语音音频数据。因此,即使实时音
频通信会话是设备699a和600之间的全双工连接(例如,该会话允许同时传输和接收音频数
据),在一些情况下,响应于控制信号禁用音频输入允许在任何给定时间设备699a和600中
只有一个能传输音频数据。另选地或除此之外,设备699a可选地在接收音频数据1510(例
如,设备699a静默其到媒体信道1506的上行链路)时不在媒体信道1506上传输音频数据。麦
克风、发射器,与发射器相关联的模拟‑数字转换器和/或与设备699a上的发射器相关联的
音频编解码器可选地在接收音频数据1510时也被断电,从而降低或消除对媒体信道1506
和/或控制信道1510的供电。在一些实施方案中,该配置有效地在全双工环境中模拟半双工
连接(类似于两个常规无线对讲机设备之间的连接),同时还节省设备699a上的电力。
信号。在一些情况下,附加控制信号指示音频数据1510的传输是完整的,并且可选地响应于
停用发送设备上的通话示能表示(例如,通话示能表示606)而生成。在其他实施方案中,响
应于接收到控制信号1504而禁用对麦克风的音频输入,直到接收设备上的扬声器(例如,设
备699a上的扬声器111)完成输出附带语音音频数据1510。
(例如,提示横幅、音频提示和触觉提示)。具体地,设备699a可选地响应于接收到控制信号
1504而放弃从与通话用户界面相关联的应用程序之外的应用程序发出感知通知。在一些实
施方案中,来自其他(例如,外部)应用程序的通知在接收控制信号1504之后的预先确定的
时间段被抑制。响应于控制信号而被抑制的来自其他应用程序的感知通知可选地包括对应
于接收到文本消息、电子邮件提示等的音频、视觉和/或触觉提示。在一些情况下,被抑制的
感知通知在经过预先确定的时间段之后或在设备600和699a之间的实时音频通信会话被终
止之后发出。
的通信信道以用于交换控制和音频数据。应当理解,该示例仅是例示性的。在其他实施方案
中,控制信号数据(例如,控制信号数据1504)和音频数据(例如,音频数据1510)由设备699a
在同一通信信道上接收。例如,音频数据可选地包含音频数据分组流,每个音频数据分组具
有标头(例如,非音频编码信息)和对语音信号进行编码的有效载荷。在此类实施方案中,控
制信号数据可选地在音频数据流中的一个或多个数据分组的标头中(例如,音频数据流中
的第一个分组)编码。例如,如果音频数据根据RTP标准被传输到设备699a,则对应的控制信
号数据可选地在音频数据流中的第一个RTP分组的RTP扩展标头中被编码。另选地或除此之
外,如果音频数据根据TCP标准被传输到设备699a,则对应的控制信号数据可选地在音频数
据流中的第一个TCP分组的TCP扩展标头中被编码。
标准。在其他实施方案中,音频数据根据安全实时传输协议(SRTP)、通用数据报协议(UDP)、
TM
传输控制协议(TCP)、FaceTime Audio 或适用于实时媒体通信的任何其他信令标准进行传
输。
数据的任何VoIP标准。在其他实施方案中,控制信号数据根据会话发起协议(SIP)、实时传
输协议(例如,在RTP扩展标头中)、传输控制协议(例如,在TCP扩展标头中)或适于交换与实
时媒体通信相关的控制信号的任何其他信令标准来传输。
628a。视觉输出指示628a提供关于John正在其设备600处激活通话示能表示606的视觉反
馈,并且对应于John的语音输入的语音数据正被发送至外部设备699a并且正在被输出。在
一些示例中,在音频输出630a的持续时间内显示视觉输出指示628a,如通过图6AC至图6AF
所示,并且在图6AG处当John结束通话时停止激活通话示能表示606时消失。在图6AG处,语
音数据不再在外部设备699a处接收,因为在发送设备600处的通话示能表示606的激活已停
止。在当前示例中,视觉输出指示628a是从联系人示能表示604a产生的波纹的动画,和/或
在联系人示能表示604a处的动画圆,和/或类似于视觉输入指示624。附加地或另选地,视觉
输出指示可以包括在激活期间改变联系人示能表示604a的颜色和/或通话用户界面602a的
背景。在另外的示例中,外部设备699a发出包括触觉输出和/或可听输出的消息结束感知通
知以指示音频输出630a的结束和/或向Jane指示通信信道现在已打开,以便她对John作出
答复。
的旋转输入632减小音频输出630a的音量,如图6AE的减小的音频输出630a所反映。沿与旋
转输入632相反的方向的旋转输入将增大音量水平。音量指示符或音量图标610a根据旋转
输入632而被动画化以反映调节后的音量水平。在一些示例中,在外部设备699处将音量水
平减小到最小水平,使得外部设备699a以用户不能听见的音量水平接收语音数据并输出与
该语音数据相对应的音频,同时视觉输出指示628a仍然显示,并且感知通知626a仍被发出。
在一些实施方案中,在用户之间的通话会话的至少持续时间内音量水平保持在调节的音量
水平,如通过图6AI至图6AE的音量图标610a所示。
道处没有语音数据被传送。在图6AH处,Jane通过在通话示能表示606a处的触摸输入620a来
答复John的消息。响应于检测到触摸输入620a,外部设备699a发出感知输出622a(类似于感
知输出622)并且发信号通知John的设备600在外部设备699a处的通话示能表示606a已激
活。作为响应,John的设备600发出感知通知626(类似于感知通知626a)。在图6AI处,Jane的
外部设备699a检测来自Jane的语音输入并将语音数据传输至John的设备600,使得当在代
表Jane的联系人示能表示604处显示视觉输出指示628(类似于视觉输出指示628a)时,Jane
的语音数据的音频输出630指示Jane正在通话并且音频正在输出。同时在Jane的外部设备
699a处,视觉输入指示624a(类似于视觉输入指示624)在通话示能表示606a处显示,同时在
通话示能表示606a处检测到触摸输入620a,指示设备699a正在捕获设备699a的麦克风处的
Jane的语音输入,并将与该语音输入相对应的语音数据传输到设备600。可以设想,至少部
分由于本文所述的语音通信的即时性,其中一端的语音输入被立即发送以在接收端自动输
出,本文提供的语音通信技术和用户界面提供了通过电子通信保持对话的增强的个人形
式。
示通话用户界面时)。在图16的实施方案中,实时音频通信会话占据控制信道1602和连接设
备600和699a的独立媒体信道1606。控制信道1602和媒体信道1606可选地为分别与图15所
示的控制信道1502和1506相同的通信信道。在一些情况下,控制信道1602不同于控制信道
1502和/或媒体信道1606,在一些情况下,不同于媒体信道1506(例如,如果设备600和699a
之间的音频通信会话被挂断并随后重新建立)。
于在设备699a处接收到用户输入(例如,激活通话示能表示606a的用户触摸620a)而被启
用。在一些实施方案中,仅当在从设备600接收到控制信号(例如,控制信号1504)之前或在
设备600发送的音频数据(例如,语音音频数据1510)回放完成之后检测到用户输入时,才启
用对麦克风的音频输入。响应于适当的用户输入,设备699a将控制信号数据1604在控制信
道1602上输出到设备600。如上结合图15所讨论,在一些情况下,控制信号数据1604通知设
备600相关联的音频数据(例如,音频数据1610)正在传入。在一些实施方案中,在接收到用
户输入之后的预先确定的时间段内启用对设备699a上的麦克风的音频输入。该预先确定的
时间段可以是100ms、150ms、250ms或任何其他合适的时间段。
在通过媒体信道1606传输的现有音频数据流中,其中数字数据流对语音信号(例如,在激活
通话示能表示606之后由设备699a上的麦克风(例如,麦克风113)拾取的语音信号)进行编
码。在全双工音频会话的情况下,基线音频数据1608(例如,来自静音麦克风的基线信号)在
一些情况下仍然在媒体信道1606上传输,即使其不对语音信号进行编码。在这种情况下,基
线音频数据可选地以低于语音音频数据1610的比特率传输到设备600。另选地和/或除此之
外,设备699a可选地在传输音频数据1610(例如,设备699a静默其在媒体信道1606上的下行
链路)时不在媒体信道1606上接收音频数据。在一些实施方案中,扬声器、接收器,与接收器
相关联的数字‑模拟转换器和/或与设备699a上的接收器相关联的音频编解码器在传输音
频数据1510时也被关闭。
信号数据1604和发送语音音频数据1610之间存在预先确定的时间段1612。该预先确定的时
间段可以是100ms、150ms、250ms、500ms、1s或任何其他合适的时间段。该预先确定的时间段
可与与或可不与接收激活通话示能表示606a并启用对麦克风的音频输入的用户输入之间
的预先确定的时间段相同。
的通信信道以用于交换控制和音频数据。应当理解,该示例仅是例示性的。在其他实施方案
中,控制信号数据(例如,控制信号数据1604)和音频数据(例如,音频数据1610)可选地由设
备699a在同一通信信道上接收。例如,音频数据可选地包含音频数据分组流,每个音频数据
分组具有标头(例如,非音频编码信息)和对语音信号进行编码的有效载荷。在这种情况下,
控制信号数据可选地在音频数据流中的一个或多个数据分组的标头中(例如,音频数据流
中的第一个分组)编码。例如,如果音频数据根据RTP标准被传输到设备600,则对应的控制
信号数据可选地在音频数据流中的第一个RTP分组的RTP扩展标头中被编码。另选地和/或
除此之外,如果音频数据根据TCP标准被传输到设备600,则对应的控制信号数据可选地在
音频数据流中的第一个TCP分组的TCP扩展标头中被编码。
时空闲。在一些示例中,实时音频通信会话是全双工通信会话,由此两端可同时发送和接收
语音数据。在一些示例中,实时音频通信信道是半双工通信会话,其中通信信道允许双向通
信,但一次仅允许一个方向上的流。在一些示例中,实时音频通信会话允许双工通信,但是
当通话示能表示606、606a各自的设备600、699a已接收到另一个设备600或699a已激活相应
的通话示能表示606或606a的指示时,不能激活通话示能表示606、606a,直到接收设备600
或699a接收到后续指示,表明在相对端的通话示能表示606、606a的激活已经停止。在一些
示例中,通话示能表示606、606a调节通信信道中的通信信号的流。
双工连接中也是如此。如果在两个设备上大致同时激活通话示能表示606和606a,则在一些
情况下,接收设备(例如,设备600)在接收控制信号数据1604之前但在发送设备(例如,设备
699a)上的通话示能表示被激活之后检测用户对通话示能表示的激活。在一些情况下,这种
定时冲突是由延迟、信号传输的非瞬时性质或许多其他因素引起的。在这些情况下,有必要
确定接收设备的通话示能表示是否在由发送设备生成控制信号数据之前被激活。随后该结
果确定哪个设备通过媒体信道1606传输音频数据以及哪个设备的音频输出被禁用。
出控制信号(例如,控制信号1604)中的时钟数据来确定是否在传入控制信号(例如,控制信
号1504)生成之前发生了激活通话示能表示606a的用户输入。在一些实施方案中,时钟数据
是指定生成控制信号的绝对时间(例如,从信令标准预先确定的时间以来经过的时间)的时
间戳。在其他实施方案中,时钟数据是指定自设备600和699a之间的音频通信会话建立以来
经过的时间的时间戳。通常,该确定是在接收到控制信号数据1504之前的预先确定的时间
响应于接收到激活通话示能表示606a的用户输入而执行的。例如,如果传入控制信号(例
如,控制信号1504)的时间戳与传出控制信号(例如,控制信号1604)的时间戳之间的时间差
小于设备600和699a之间的平均信号传输时间,则可选地执行冲突确定。在其他实施方案
中,由设备699a和/或设备600直接执行冲突确定(例如,通过将传入控制信号上的时间戳与
激活通话示能表示的时间进行比较)。
音音频数据1510)。这允许设备699a将语音数据传输到设备600,即使设备600上的通话示能
表示几乎同时被激活。然而,根据确定在生成传入控制信号之后发生激活通话示能表示
606a的用户输入,设备699a可选地阻止对其麦克风的音频输入和/或从其扬声器输出传入
音频数据。在这种情况下,设备699a接收并回放语音数据,即使设备699a上的通话示能表示
几乎同时被激活。
示屏处于关闭状态。在图6BB处,Jane的设备699a检测在通话示能表示606a处的触摸输入
620b,这导致在Jane的设备699a处发出感知输出622a,并发信号通知John的设备600该激
活。John的设备600接收信号指示并发出感知通知626。在本示例中,在发布感知通知626期
间,John的显示屏保持关闭,而在一些示例中,显示屏从关闭状态打开和/或立即发起语音
通信应用程序的显示。在图6BC处,在发布感知通知622之后,在John的设备600处检测到静
音手势638。在一些示例中,静音手势638是手掌显示手势,其中用户用用户的手掌覆盖显示
屏636的大部分。在本示例中,设备600检测到在发出感知通知626之后并且在发起语音数据
的音频输出之前的预先确定的延迟时间段内接收到静音手势638。当在预先确定的延迟时
间段内检测到静音手势638时,设备600放弃输出音频数据,如图6BD所示。在本示例中,静音
手势638保持显示屏的关闭状态和/或将显示屏切换到关闭状态。在一些示例中,在检测到
静音手势638时,设备600答复外部设备699a此时接收设备600不可用于语音通信。在一些示
例中,设备600响应于静音手势638来挂断通信信道。
示例中包括视觉输入指示624a,其指示响应于触摸输入620b而激活通话示能表示606a。在
本示例中,联系人不可用屏幕640a是带阴影或换句话讲变灰的屏幕,其包括不可用的联系
人的视觉表示642,诸如表示该联系人的图像、字母组合图案和/或示能表示(在这种情况
下,为John的图像)以及指示该联系人的不可用性的简短文本(例如,“John不可用”)。在一
些示例中,接触不可用屏幕640a包括添加示能表示,该示能表示可被选择(例如,利用轻击
输入)以显示用于连接到另一个联系人的联系人列表,并且在一些情况下允许用户尝试重
新连接到当前不可用的联系人。如下文进一步讨论,在一些示例中,设备600处的静音手势
638使设备600进入临时免勿打扰模式达预先确定的时间段,在此期间,不会经由语音通信
应用程序接收到来自任何联系人的语音通信以在设备600处输出。在此类情况下,设备600
在经过预先确定的时间段时自动退出免打扰模式以恢复语音通信应用程序的正常操作。
屏)。John的设备600响应于接收到有关外部设备699a已经由触摸输入620c激活了通话示能
表示606a的指示而发出感知通知626。由于在发布感知通知626之后预先确定的延迟时间段
期间未检测到静音手势(例如,静音手势638),因此设备600自动进行以引起从外部设备
699a接收的语音数据的音频输出630,如图6CC所示。图6CB至6CC进一步示出,在发起音频输
出630和在音频输出630期间,John的显示屏被打开以显示与传入语音数据的联系人相关联
的通话用户界面602,如代表Jane的联系人示能表示604处所示。如图6CD所示,在音频输出
630期间,响应于接收到静音手势638,设备600结束音频输出630并停止从外部设备699a接
收语音数据。
到静音手势638a时在设备600处挂断通信信道)指示接收器不可用。响应于检测到John不可
用和/或换句话说通信信道不再可用,外部设备699a自动地从图6CD的通话用户界面602a转
变到联系人不可用屏幕640a,其具有视觉表示642,显示John的图像和指示John不可用的文
本。如图6CD至图6CE所示,当在通话示能表示606a处检测到触摸输入620c并且在设备699a
处捕获Jane的语音输入时,发生从通话用户界面602a到联系人不可用屏幕640a的转变。这
样,响应于检测到设备600不可用,设备699a中断对语音输入的捕获以及语音数据向设备
600的发送。需注意,在一些情况下,设备699a不会立即知道设备600何时变得不可用,直到
通话示能表示606a的后续激活尝试到达设备600并且尝试不成功。
联系人(例如,当检测到静音手势638时与语音数据的来源相对应的联系人)的语音通信被
阻止,而其他联系人可以可选地经由其他通信信道向设备600发送语音数据。在一些示例
中,在免打扰模式期间,来自任何联系人的语音通信在语音通信应用程序处被阻止。在一些
情况下,设备600通过有关设备600不可用的指示来响应于任何传入语音数据,并且不存储
在不可用状态期间尝试到达设备600的任何提示或指示。在这种情况下,在不指示丢失语音
通信和/或不保存传入语音数据以供稍后检索的情况下,设想本文所述的语音通信通过电
子通信来提供短暂形式的个人通信。
中,进入暂时免打扰模式自动将免打扰切换开关612(例如,如图6AA中所示在打开位置)切
换到关闭位置,并且可在经过预先确定的时间段之前手动切换到打开位置。
活输入648打开显示屏幕并转变到主屏幕650,该主屏幕包括多个应用程序启动图标,包括
语音通信应用程序启动图标652。选择应用程序启动图标后,将启动其对应的基础应用程
序。响应于检测到图6DB的语音通信应用程序启动图标652上的触摸输入654,设备600启动
语音通信应用程序并显示图6DC处的免打扰屏幕656。在图6DC处的本示例中,免打扰屏幕
656是灰显屏幕,其包括在进入免打扰模式之前经由语音通信应用程序进行通信的上一个
联系人的视觉表示642(例如,Jane的图像),并且包括如图所示处于关闭位置的切换开关
612。响应于在图6DD处检测到切换开关612(关闭位置)处的触摸输入660,设备600从免打扰
屏幕656转变为显示与进行通信的上一个联系人相对应的通话用户界面602,如在显示Jane
的图像的联系人示能表示604处所示(例如,对Jane的视觉表示642)。在图6DE处,切换开关
612在通话用户界面602中被显示在打开位置。在一些情况下,通话用户界面602仅当上一个
联系人在切换回打开时仍可用于语音通信时才被显示。在一些情况下,如果当设备600切换
回打开时上一个联系人不可用,则设备600在切换回打开时显示对应于上一个联系人的联
系人不可用屏幕(例如,具有Jane的图像)。
系人仍然可用,则设备600启动语音通信应用程序并在开关612处于打开位置的情况下显示
通话用户界面602,而不显示免打扰屏幕656。
示联系人不可用屏幕640a(例如,John的图像和“John不可用”),并且在检测到与联系人的
通信信道再次可用时和/或在接收到有关John的设备600可用于语音通信的指示时,自动转
变回图6DE处的通话用户界面602a。在图6DE处,如上面的技术中所讨论的,John和Jane能够
通过通信信道使用其各自的通话用户界面602、602a处的通话示能表示606、606a来发送和
接收语音数据。
界面602或602a时,和/或仅在通话示能表示606或606a被激活时,和/或仅在接收传入语音
数据并输出语音数据630或630a时,在设备600或699a处抑制通知,和/或完全不抑制通知,
和/或它们的任何组合。在某些情况下,处理传入通知由用户设置定制。在一些情况下,当抑
制传入通知时,传入通知存储在通知抽屉中并且可访问以供稍后检索(例如,经由通知模
块)。在其他示例中,传入通知在稍后被排队以用于输出(例如,当不再显示通话用户界面
602或602a时,当不再激活通话示能表示606或606a时和/或当前未输出语音数据时)。
入通知664a。传入通知664a对应于来自设备600处的另一应用程序的通知或提示、传入文本
消息、电子邮件提示等。在本示例中,传入通知664a被抑制或以其他方式不输出以用于显
示,如图6EB所示,该图中继续显示通话用户界面602。实际上,抑制通知使其不显示和/或以
其他方式不被感知地输出允许语音通信会话不中断。在一些示例中,在语音通信期间只显
示具有优先状态的通知并允许其输出。
通信。在图6FA中,在设备600处接收到传入通知664a,并且其不被抑制,而是在图6FB中显
示,示出通知提示666a。例如,当未激活通话示能表示606和/或设备600未主动从外部设备
699a接收音频数据时,允许在显示通话用户界面602时出现通知提示666a。如图6FB至图6FC
所示,通知提示666a的显示不会退出语音通信应用程序或以其他方式导致设备600不可用,
并且外部设备699a继续与和设备600进行通信相关联的通话用户界面602a的显示。在当前
示例中,通知提示666a对应于传入电子邮件并显示通知的一部分(例如,“您的订单已装
运!”),对应于通知的应用程序的指示668,应用程序启动示能表示670(也称为“视图示能表
示”670)和清除通知示能表示672(也称为“清除示能表示”672)。在图6FC处,设备600检测清
除通知示能表示672上的触摸输入674a以移除通知提示666a的显示并且恢复图6FD处通话
用户界面602的显示。在一些示例中,通知提示666a被简单地显示并自动消失,而无需用户
选择清除示能表示672。
如,完整电子邮件)。如图6FF所示,启动邮件应用程序使得邮件应用程序成为活动应用程
序,并且因此离开语音通信应用程序和/或结束与和外部设备699a相关联的语音通信信道
的连接。响应于有关与设备600的通信信道不再可用的指示,外部设备699a将从图6FE处的
通话用户界面602a的显示转变为联系人不可用屏幕640a。在一些示例中,与设备600的连接
可由设备699a经由添加示能表示644重新发起或尝试重新发起,并且随后从联系人列表中
选择同一联系人(例如,John),如下文进一步所述。需注意,在一些示例中,如果设备600仅
暂时离开语音通信应用,并且在设备600断开与通信信道的连接之前经过短暂时间窗口之
前返回通话用户界面602,则外部设备699a继续显示通话用户界面602a而不中断。这样,允
许用户在其各自的应用程序中快速查看通知而不必结束通信信道。
通信期间,在设备600处接收到传入通知664a,其中在通话示能表示606处检测到触摸输入
620d,语音数据从设备600发送到外部设备699a,从而导致与语音数据相对应的音频输出
630a和在外部设备699a的联系人示能表示604a处的视觉输出指示628a。在这种情况下,在
活动语音通信的持续时间内,图6GA至图6GB中抑制传入通知664a的输出。在图6GC处,活动
语音通信结束,此时设备600不再检测触摸输入620d,并且图6GD中显示对应于传入通知
664a的通知提示666a。在图6GE处,响应于清除示能表示672上的触摸输入674,通知提示
666a从显示中移除,并且图6GF中设备600恢复通话用户界面602的显示。在整个图6GA至图
6GF中,外部设备699a无中断地显示通话用户界面602a,因为设备600没有离开语音通信应
用程序。需注意,在一些示例中,显示通知提示导致在显示通知时设备变得不可用于语音通
信。
处首先接收到传入通知664a,然后是接收到第二传入通知664c。在活动语音通信期间接收
到传入通知664b、644c两者,其中在通话示能表示606处检测到触摸输入620e,并且语音数
据从设备600发送到外部设备699a,从而导致在外部设备699a处,与语音数据相对应的音频
输出630a和联系人示能表示604a处的视觉输出指示628a。在图6HA至6HB处,传入通知664a、
664c以其到达顺序排队,并且在活动语音通信的持续时间内被抑制输出。在图6HC处,活动
语音通信结束,此时设备600不再检测触摸输入620e。随后,在图6HD至图6HG处,设备600以
通知提示666a、666c的对应的通知到达的顺序显示排队的通知提示。如图6HE和图6HG所示,
分别在每个通知提示666a、666c处的清除示能表示672上的触摸输入674a和674c移除了通
知提示的显示,并且图6HH中再次显示通话用户界面602。在一些情况下,通知提示666a、
666c自动以其排队顺序循环显示,而无需在每个清除示能表示672上进行输入。在整个图
6HA至图6HH中,外部设备699a无中断地显示通话用户界面602a,因为设备600没有离开语音
通信应用程序。
在图6IB处,当外部设备699a在其通话示能表示606a处检测到触摸输入620f并捕获语音输
入,同时将捕获的语音输入作为语音数据发送到设备600时,外部设备699a变得不可用并且
其显示屏关闭。设备600检测到通信通道已挂断和/或外部设备699a在通信通道上变得不可
用,并从通话用户界面602转变到联系人不可用屏幕640,该屏幕包括外部联系人的视觉表
示642(例如,在这种情况下,为Jane的图像)、文本(例如“Jane不可用”)和添加示能表示
644。
智能手表),设备699a正在另一电话或VoIP通话中,设备699a已关闭电源或处于飞行模式设
置中,其中设备699a未连接到任何网络,设备699a为免打扰模式、静音模式或其他类型的抑
制通知输出的模式,包括剧院模式和睡眠模式,和/或设备699a连接到另一个通信通道。
检测到触摸输入676(图6JA),并作为响应,显示联系人列表678。在图6JB中,在一些示例中,
联系人列表678从设备600的显示屏的底部滑动到显示器上。在本示例中,联系人列表678由
子列表划分,子列表包括最新联系人子列表(例如,包括先前处于通信中的设备699a处的
Jane Appleseed),该子列表在按字母顺序索引的其余电话簿联系人列表之前。在一些示例
中,在显示剩余电话簿联系人之前,联系人列表678首先示出与其他外部设备相关联的其他
联系人的子列表,这些外部设备被识别为能够经由语音通信应用程序接收语音通信和/或
被识别为当前可用(例如,加电,具有网络连接)。然而,在一些示例中,基于语音通信应用程
序的使用频率或电话簿联系人中的总体常用的联系人,将联系人列表678按使用频率进行
排序。在图6JB处,联系人列表678还包括取消示能表示680,该取消示能表示在被选择时移
除联系人列表678的显示(例如,通过使联系人列表678向下滑出显示屏)并且恢复到先前的
显示(例如,图6JA处的联系人不可用屏幕640)。
应于触摸输入682,设备600发起与Aaron的外部设备699b的连接以建立对设备600和699b唯
一的通信信道。当通信信道正在构建等待Aaron的外部设备699b接受时,设备600显示图6JD
至图6JE中的联系人等待屏幕684。在本示例中,联系人等待屏幕864包括视觉表示642,在这
种情况下对应于等待连接的外部联系人(例如,表示Aaron的图像或字母组合图案),指示连
接处于等待状态的文本(例如,“等待Aaron”),动画688诸如环绕Aaron视觉表示642的弧圈,
其提供正在积极等待连接的视觉反馈,以及用于在选择时导致显示联系人列表678的添加
示能表示644。
文本(例如,“John Appleseed希望通过“通话应用程序”与您通话。您想要通话吗?”),以及
接受示能表示692和拒绝示能表示694(在本文中也称为“现在不”示能表示694)。在本示例
中,Aaron的设备699b根据确定与John的等待连接是设备699b的新连接(诸如设备600和
699b之间的新通信信道)而显示邀请屏幕690b。在一些实施方案中,除了或代替图6JD的示
能表示中的一个或多个,设备699b还显示“总是接受”示能表示。在此类实施方案中,响应于
检测到“总是接受”示能表示,设备699b启动语音通信应用程序,完成构建通信信道,和/或
将联系人John Appleseed添加(例如,添加与John Appleseed相关联的账户和/或设备)到
白名单,以用于自动回答将来的传入会话发起请求,如下文更详细地讨论。
中,当网络连接是快速的时,连接等待屏幕698、698b不显示在一个或两个设备处。在当前示
例中,通过保持Aaron的视觉表示642和动画688的显示,同时移除添加示能表示644并更新
文本(例如,使用“连接到Aaron”来更新),John的设备600从联系人等待屏幕684转变到连接
等待屏幕698。在Aaron的设备699b处,连接等待屏幕698b示出了John的视觉表示642。
在图6JG处放大尺寸,然后在朝向设备600的边缘后退并限定先前表示先前联系人Jane的更
新的联系人示能表示604的同时减小尺寸。通话示能表示606出现在图6JK处,在显示器上居
中,并且视觉指示608被动画为围绕联系人示能表示604和通话示能表示600形成。在图6JK
处,Aaron的设备699b显示类似的通话用户界面602b,该通话用户界面包括通话示能表示
606b,具有表示John的视觉表示642的联系人示能表示604b和视觉指示608b。在图6JK处,设
备600和699b准备好进行语音通信。
John的设备600不可用的指示。在当前所示的示例中,Jane的设备699a检测可旋转的输入机
构616a处的激活输入648a(图6JB),检测主屏幕650a的语音通信应用程序启动图标652上的
触摸输入654(图6JC),并且显示免打扰屏幕656a,该屏幕包括对应于上一个联系人的视觉
表示642(例如,John的图像)。在图6JE处,Jane的设备699a检测开关612(关闭位置)处的触
摸输入660a并且关闭先前在Jane的设备699a处可能已建立的免打扰模式。在图6JF处,由于
John的设备600当前不可用,因此Jane的设备699a从免打扰屏幕656a转变为联系人不可用
屏幕640a,指示John(上一个联系人)不可用。
图6LD、图6MA至图6MC、图6NA至图6NF中的上面一排图示对应于在John的设备600上显示的
用户界面,下面一排图示对应于在Aaron设备699b上显示的用户界面,该设备也称为外部设
备699b。
接受连接邀请。例如,在图6KA至图6KD中,John的设备600首先显示联系人列表678,并且响
应于触摸输入682来检测从联系人列表678中选择Aaron Smith。John的设备600转变到联系
人等待屏幕684,该屏幕在本描述中包括先前讨论的元素,包括Aaron的视觉表示642。同时,
Aaron的设备699b接收到来自John的设备600的传入连接的指示,并且显示通知6000b(和/
或在一些示例中,显示邀请),其指示对应于通知6000b的应用程序(例如,“通话应用程
序”)。在图6KD至图6KE中,Aaron通过触摸输入6002(例如,轻扫输入)清除通知6000b。如图
6KE所示,清除通知6000b被动画化为被扫出显示屏。
Aaron接受连接的同时显示另一屏幕(例如,图6KE中的当前时间)。在图6KF至图6KK中,由于
Aaron尚未接受,John可(仅以举例的方式)通过再次激活图6KF中的显示屏以显示图6KG中
的主屏幕650,检测图6KH中语音通信应用程序启动图标652上的触摸输入654以及启动导致
显示图6KI中的联系人等待屏幕684的应用程序。在图6KI中,John可经由激活输入648再次
关闭该应用程序并恢复显示另一屏幕(例如,图6KJ至图6KK中的当前时间)。又如,John可经
由联系人等待屏幕684上的添加示能表示644来选择连接到另一联系人。
应于先前清除的未读通话应用程序通知6000b。Aaron经由触摸输入6002a(例如,向下和/或
与6002相反的方向的轻扫输入)请求稍后查看通知6000b,这会使通知6000c重新显示(例
如,通知6000b的横幅视图)。响应于在通知6000c上检测到触摸输入6000c,出现邀请屏幕
690b,并且Aaron经由图6KK中的接受示能表示692上的触摸输入696接受该连接。
请求,已经接受了设备600和699b之间的通信通道连接。由于John的设备600不在应用程序
中,因此John的设备600接收到有关Aaron的设备699b的指示,并显示邀请状态通知6008。在
图6KL中,邀请状态通知6008包括指示邀请状态的文本(例如,“Aaron Smith接受了您的邀
请。”)、启动示能表示670(例如,“通话”)和清除示能表示672。在图6KM中,在启动示能表示
670上的触摸输入674d(例如,轻击)启动语音通信应用,该语音通信应用显示通话用户界面
602,其中含有具有Aaron的视觉表示的联系人示能表示604,同时Aaron的设备699b显示通
话用户界面60b,其中含有具有John的视觉表示的联系人示能表示604b。在图6KN中,John和
Aaron在通信信道上连接,并且可以通过在相应的通话用户界面602、602b上激活通话示能
表示606、606b而彼此通信。
Aaron已接受邀请并且在图6LA中连接到通信信道,并且显示与John相关联的通话用户界面
602b。在图6LC至图6LD中,Aaron利用触摸输入620激活通话示能表示606b以与John通话,并
且作为响应,John的设备发出感知通知626,然后发出对应于Aaron语音的音频输出630,并
启动语音通信应用程序,该语音通信应用程序显示对应于Aaron的通话用户界面602。
中移除邀请屏幕690b的显示并且使得设备699b不连接到通信信道。当John的设备600在应
用程序中并且显示联系人等待屏幕684时,John的设备600接收有关通信信道不可用或换句
话讲Aaron未接受连接的指示,并且转变到图6MC中的联系人已拒绝屏幕6010,该屏幕包括
联系人的视觉表示642(例如,Aaron的图像),指示邀请被拒绝的文本(例如,“Aaron拒绝”),
以及用于经由联系人列表选择另一联系人的添加示能表示644。
触摸输入682来检测从联系人列表678中选择Aaron Smith。John的设备600转变到联系人等
待屏幕684。John决定不在联系人等待屏幕684上等待,他在可旋转的输入机构616处提供激
活输入648,该激活输入在图6NE中移除联系人等待屏幕684的显示。同时,Aaron的设备699b
接收到来自John的设备600的传入连接的指示,并且显示通知6000b(和/或在一些示例中,
显示邀请),其指示对应于通知6000b的应用程序(例如,“通话应用程序”)。
请求是根据会话发起协议(SIP)传输的信号,该信号包括INVITE请求和指定实时音频通信
会话的媒体格式的描述单元。在图6NB的示例中,响应于检测到通过触摸输入682从联系人
列表678中选择Aaron Smith,将该请求由John的设备600发送到Aaron的设备699b。
通过应用程序(例如,“通话应用程序”)建立了与其的实时音频通信会话的联系人。在另一
个实施方案中,该列表是Aaron的联系人列表,类似于设备600上显示的联系人列表678。
的用户输入。媒体信道和/或控制信道可选地被分配给音频通信会话,从而允许设备600向
设备699b发送控制数据和/或语音音频数据。这样,设备699b自动地回答来自与白名单联系
人相关联的设备的会话发起请求(例如,传入呼叫)。
或控制信道)。具体地讲,重新参见图6JD和图6J5,Aaron的设备699b接收到来自与未经审查
的联系人相关联的设备(例如,设备600)的会话发起请求。如果设备699b确定与请求设备
600相关联的联系人不在其白名单上,则设备699b等待接受该请求的用户输入(例如,接受
示能表示692上的用户输入696)。在等待该用户输入时,显示邀请屏幕690b。响应于在接受
示能表示处检测到用户输入,设备699b通过向设备600发送一个或多个SIP响应代码并连接
到分配给实时音频通信会话的一个或多个通信信道来建立与请求设备600的实时音频通信
会话。可选地,设备699b将与请求设备600相关联的联系人添加到白名单。因此,来自设备
600的未来会话邀请将如上所述自动被接受。
信道1506的上行链路静默。在一些情况下,发射器,与发射器相关联的模拟‑数字转换器和/
或与设备699a上的发射器相关联的音频编解码器在麦克风被禁用时也被关闭。对麦克风
(和/或设备699b的各种发射器部件)的音频输入可选地保持禁用,直到被用户启用(例如,
通过激活通话示能表示606a)。
摸手势)。响应于接收到该用户输入,设备699b可选地查询网络(例如,网络1702)以确定该
联系人是否支持使用语音通信应用程序进行通信。另选地,用于语音通信应用程序的联系
人列表(例如,联系人列表678)可选地仅由支持通过语音通信应用程序进行通信的联系人
填充。响应于选择适当联系人的用户输入,设备699a向设备600发送建立实时音频通信会话
的请求。例如,在一些情况下,该请求是根据会话发起协议(SIP)而传输的信号,其包括
INVITE请求和指定实时音频通信会话的媒体格式的描述单元。在发送该会话发起请求之
后,设备699b可选地将与设备600相关联的联系人添加到其白名单,使得来自设备600的未
来请求以上述方式被自动接受。在图6LA至图6LD的示例中,John的设备600通过接受来自设
备699b的先前会话请求(参见图6KK)而使将Aaron的设备699b加入白名单。因此,当Aaron激
活通话示能表示606b(例如,利用触摸输入620g)时,发送至John的设备的会话请求被自动
接受,并且John的设备输出传入音频数据并显示通话用户界面602。
中从显示中移除邀请屏幕690b。在图6NF中,John的设备600不在应用程序中并接收有关
Aaron拒绝了连接的指示。John的设备600显示邀请状态通知6008,其具有用以启动语音通
信应用程序的启动示能表示670,连接到另一联系人,以及用以移除通知6008的清除示能表
示672。
在Jane的设备699a上显示的用户界面,并且下面一排图示对应于在Aaron的设备699b上显
示的用户界面。
数据从Jane的设备699a发送至John的设备600,从而导致在John的设备600处对应于语音数
据的音频输出630。在图6OB中,John的设备600检测开关612处的触摸输入660以切出并且进
入免打扰模式,如图6OC至图6OG中的免打扰屏幕656所示。因此,Jane的设备699检测到John
的设备600不再可用并且从通话用户界面602a转变到图6OC至图6OG中的联系人不可用屏幕
640a。在图6OG中,John的设备600检测开关612处的另一个触摸输入660以切进并且退出免
打扰模式,并且当Jane的设备699a仍在应用程序中时,设备600、699a两者转变以再次显示
图6OH中的相应的通话用户界面602、602a。
Aaron的设备699b处的上一个连接。在一些示例中,当与John的连接已超时或换句话讲先前
已结束时,显示John的联系不可用屏幕640b。在图6OD处,Aaron经由触摸输入676选择添加
示能表示644以使得显示联系人列表678,该联系人列表在“最近”子列表中显示John,因为
John是最近的联系人。在图6OF中,Aaron利用触摸输入682选择John并尝试连接到John的设
备600。然而,如图6OG至图6OH所示,Aaron的设备699a接收由关John的设备600不可用的指
示并且显示联系人不可用屏幕640b。在这种情况下,John的设备600不可用于Aaron的设备
699b,因为John的设备600已经与Jane的设备699a通信。
John和Jane的设备600、699a都可转变到联系人不可用屏幕640、640a,从而指示John和Jane
彼此不可用。然而,同时,John的设备600可看起来可用于Aaron的设备699a。类似地,John
和/或Jane可以通过从其各自的联系人列表中选择另一个来重新建立连接。
用户界面用于示出下文描述的过程,包括图10所示的过程。应当注意,本文提供的用户界面
流仅是本文所公开的语音通信技术中可用的多种可能流的一些示例,并且在一些情况下,
在不脱离本发明的精神的情况下可修改和/或重新布置用户界面流。
起见,上面一排图示对应于在John的设备600上显示的用户界面,中间一排图示对应于在
Jane的设备699a上显示的用户界面,并且下面一排图示对应于在Aaron的设备699b上显示
的用户界面。另外,图7CA至图7CH、图7DA至图7DD和7EA至7ED中的第四排图示对应于在
Emily的设备699c上显示的用户界面,该设备也是计算设备100、300或500(图1A至图1B、图3
以及图5A至图5B)。
时,通话用户界面602被更新为信道切换模式用户界面700(也称为信道切换模式700),同时
保持与当前连接的语音通信信道的连接。最初在图7AA中,John的设备600和Jane的设备
699a在语音通信应用程序中并且当前通过通信信道彼此连接,如在其相应的通话用户界面
602、602a处所示。具体地,John的通话用户界面602包括第一联系人示能表示704a(下文称
为Jane的联系人示能表示704a),而Jane的通话用户界面602a包括John的联系人示能表示
604a。
模式700。仅以举例的方式,图7AB中展示了处于中间阶段的到信道切换模式700的动画转变
(并且随后从该模式转变),其中通话用户界面602x正在转变到信道切换模式700,并且视觉
指示608x开始分离成图7AC的第一指示符608y和第二指示符608z。在图7AC中,示出了信道
切换模式700,并且在第一位置包括Jane的联系人示能表示704a(其具有第一指示符608y),
在第二位置包括添加示能表示644。第二指示符608z显示在通话示能表示606处。第一指示
符608y和第二指示符608z提供视觉反馈,表明即使显示已经改变,John的设备600仍与Jane
的设备699a连接到通信通道。因此,在图7AA至图7AC中,Jane的设备699a继续显示通话用户
界面602a,因为进入信道切换模式700没有导致通信信道中断。例如,语音通信仍可在设备
600和699a之间中继,如图7AD所示。在图7AD中,Jane的设备699a示出正由触摸输入620i激
活的通话示能表示606a,这将捕获设备699a处的语音输入并将对应于所捕获的语音输入的
语音数据发送至John的设备600。John的设备600继续发出音频输出630并在Jane的联系人
示能表示704a处提供视觉输出指示628,即使通话用户界面602已转变到信道切换模式700。
类似地,John可从图7AD中的信道切换模式700激活通话示能表示606,以将语音数据发送回
Jane的设备699a。
表678中选择联系人(例如,Aaron Smith)并尝试连接到与该联系人相关联的外部设备(例
如,Aaron的设备699b)。在等待Aaron的设备连接时,John的设备显示Aaron的联系人等待屏
幕并停止显示通话用户界面602,因为与Jane的设备699a的通信信道已变得不可用,这是由
于John的设备600在语音通信应用程序中一次只能连接到单个通信信道。因此,Jane的设备
699a从通话用户界面602a转变到图7AG至图7AI中的联系人不可用屏幕640a。
在图7AH中检测到经由触摸输入696对接受示能表示692的选择,Aaron的设备699b将显示转
变到图7AI中的通话用户界面602b,示出联系人示能表示604b(表示John)。John的设备600
接收到有关设备600、699b之间的通信通道已建立和/或以其他方式表示Aaron已批准连接
的指示。在图7AI中,John的设备600显示具有更新的联系人示能表示的通话用户界面602,
示出了Aaron的联系人示能表示704b。Aaron的联系人示能表示704b经由视觉指示符608与
通话示能表示606相关联。
和/或最频繁联系人的联系人示能表示来允许快速选择和连接到该联系人,从而允许用户
快速地在最近联系人的通信信道之间切换。
图7BC中的信道切换模式700。在图7BC中,信道切换模式700保持Aaron的联系人示能表示
704b的显示,并导致进一步显示Jane的联系人示能表示704a,因为Jane是最后联系的联系
人。具体地,Jane的联系人示能表示704a在与第一位置处Aaron的联系人示能表示704b相邻
的第二位置(例如,在图7AC至7AD中添加示能表示644所在的第二位置)显示,并且添加示能
表示644被靠在最右边的第三位置。在信道切换模式700中,Aaron的联系人示能表示704b处
的指示符608y指示John的设备600和Aaron的设备699a之间的通信信道仍然连接。因此,从
图7BA至图7BD,Aaron的设备699b继续显示与John相关的通话用户界面602b,而Jane的设备
699a继续显示表示John不可用的联系人不可用屏幕640a。
关联的通信通道。因此,Jane的设备699a从显示联系人不可用屏幕640a转到到与John相关
联的通话用户界面602a,而Aaron的设备699b从显示与John相关联的通话用户界面602b转
变到显示联系人不可用屏幕640b。
关联。图7BF至图7BH示出了从信道切换模式700到通话用户界面602的示例动画转变,其中
先前的联系人示能表示即Aaron的联系人示能表示704b在被Jane的联系人示能表示704a从
第一位置推开时滑出了显示器,并且添加示能表示644塌缩或以其他方式收缩并消失。图
7BG示出了通话用户界面602x中的动画的另一个中间阶段,其中指示符608y和608z正在合
并到单个边框608x中,从而将Jane的联系人示能表示704a与通话示能表示606相关联。
示704a处检测到的触摸输入702d,设备在图7CB中进入信道切换模式700。如信道切换模式
700中所示,Jane的联系人示能表示704a保持在第一位置,指示符608y指示当前通信通道与
Jane的设备699a相关联。Aaron的联系人示能表示704b在第二位置处示出,指示亚Aaron的
设备是任何其他其余联系人中的最新和/或最频繁的联系人。在图7CC中,John的设备600检
测在添加示能表示上的触摸输入702e,并在图7CD中显示联系人列表678,该列表在“最近”
子列表下显示了Jane Appleseed和Aaron Smith。在图7CE中,联系人列表678已经被向下滚
动以找到另一个联系人Emily Miles,并且随后接收选择Emily Miles的触摸输入678。响应
于检测到该选择,在图7CF至图7CH中John的设备600显示联系人等待屏幕684,其示出了
Emily的视觉表示,然后转变到图7CH中的通话用户界面602,在Emily的设备699c已经经由
图7CG中的邀请屏幕690c的接受示能表示692上触摸输入696接受了该连接之后,该用户界
面示出了Emily的联系人示能表示704c。
与Emily的设备699c的另一通信信道。如图所示,当接收到有关与John的设备600的通信信
道不再可用的指示时,Jane的设备699a转变到图7CE至图7CH中的联系人不可用屏幕640a。
话用户界面602处检测到Emily的联系人示能表示704c上的触摸输入704f,设备600在图7DB
中进入信道切换模式700,其将Emily的联系人示能表示704c保持在第一位置,使得在第二
位置显示Jane的联系人示能表示704a,指示Jane是最近或最频繁的联系人,以及添加示能
表示644。如图7DC所示,响应于在信道切换模式700期间在Emily的联系人示能表示704c处
检测到另一个触摸输入704g,设备600保持当前连接的通信信道并转变回与Emily的联系人
示能表示704c相关联的通话用户界面602。如Emily的设备699c处所示,与John的设备600相
关联的通话用户界面602c在图7DA至图7DD中继续显示,因为通信信道未断开连接。
600与Emily的设备699c连接到通信信道。响应于在通话用户界面602处检测到Emily的联系
人示能表示704c上的触摸输入704h,设备600在图7EB中进入信道切换模式700,其将Emily
的联系人示能表示704c保持在第一位置,使得在第二位置显示Jane的联系人示能表示
704a,指示Jane是最近或最频繁的联系人,以及添加示能表示644。如图7EC至图7ED所示,响
应于在信道切换模式700期间检测到在Jane的联系人示能表示704a处的触摸输入704i,设
备600从与Emily的设备699c的通信信道断开连接并尝试连接至与Jane的设备704a相关联
的通信信道。在该示例中,Jane的设备699a可能断电、缺少网络连接和/或以其他方式不可
用。在图7ED中,John的设备600接收有关Jane的设备600a的状态的指示,并且显示指示Jane
不可用的联系人不可用屏幕640。在该状态下,John的设备600与Emily的设备699c断开连接
并且未连接到Jane的设备699a,因此处于空闲状态,此时当前未连接通信信道。可选地,
John可选择联系人不可用屏幕640上的添加示能表示644以连接到另一通信信道。
的过程。应当注意,本文提供的用户界面流仅是本文所公开的语音通信技术中可用的多种
可能流的一些示例,并且在一些情况下,在不脱离本发明的精神的情况下可修改和/或重新
布置用户界面流。
清楚起见,上面一排图示对应于在John的设备600上显示的用户界面,下面一排图示对应于
在Jane的设备699a上显示的用户界面。
触摸输入654,并且根据确定先前在设备600处未建立任何关系,语音通信应用程序显示欢
迎屏幕800,其包括该应用程序的代表性符号或字形802,描述该应用程序的简短文本(例
如,“与其他手表用户通话的有趣方式”)、该应用程序的名称(例如,“通话应用程序”)和用
于继续登录的开始示能表示804。
8F中,响应于检测到所显示的初始添加示能表示810上的触摸输入806b,设备600显示联系
人列表678。在图8H中,响应于检测到从联系人列表678选择联系人,例如检测到Jane
Appleseed上的触摸输入682,设备600尝试连接到Jane的设备699a,该设备接收有关该尝试
的指示并发出感知通知812。在一些示例中,感知通知812类似于作为在前面段落中描述的
感知通知626的触觉和/或可听输出。
备699a显示包括接受示能表示692而非现在示能表示694的邀请屏幕690a,并且在图8J中检
测接受示能表示692上的触摸输入696以接受到与John的设备600的通信信道的连接。
音数据在Jane的设备699a和John的设备600之间在通信信道上传输。在图8Q中,在John的设
备600处的可旋转输入机构616处的激活输入648和/或在Jane的设备699a处的可旋转输入
机构616a处的激活输入648关闭语音通信应用程序并断开通信信道。仅以举例的方式,如果
John的激活输入648在Jane的激活输入648a之前发起断开,则Jane的设备699a接收有关
John已关闭或以其他方式退出John的设备600处的语音通信应用程序并且通信信道不再可
用的指示。作为响应,Jane的设备699a自动关闭语音通信应用程序并在设备699a处显示另
一屏幕(例如,图8K中的当前时间)。然而,如果Jane的激活输入648a首先断开通信信道,则
John的设备600检测到该通信信道不再可用,并且自动关闭或退出语音通信应用程序,并在
设备600处显示另一屏幕(例如,图8K中的当前时间)。
8V至图8X的一些示例中,当在John的设备600处的通话示能表示606上检测到触摸输入620l
时,经由通信信道的通信被恢复。
面,诸如触敏显示器,并且在一些示例中该设备还具有麦克风和扬声器。方法900中的一些
操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
用户能够更快速且更有效地进行通信节省功率并增加电池两次充电之间的间隔。
面602。
音。响应于接收到数据信号而发出感知通知为用户提供了传入通信已到达设备的反馈,并
且向用户提供了指示语音数据将被自动和可听地输出的进一步反馈。在一些示例中,感知
通知允许用户在不方便音频输出的情况下停止语音数据的自动音频输出。提供改进的反馈
增强了设备的可操作性,并且使用户‑设备界面更有效(例如,通过帮助用户提供合适的输
入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地
使用设备而减少了电力使用并且延长了设备的电池寿命。
出(例如,音频输出630)。例如,用户输入是手掌对手表手势,当该手势未被接收时,引起语
音数据在扬声器处或通过耳机自动输出。当未检测到用户输入时自动引起接收到的语音数
据的音频输出,允许用户快速有效地与联系人通信,而无需提供进一步输入(例如,在播放
前回答联系人的传入消息),并使用户能够进行多任务处理,同时仍能在其到达时听到实时
语音数据而不会出现延迟。在一组条件已经被满足而不需要进一步的用户输入时执行操作
增强了设备的可操作性,并且使用户‑设备界面更有效(例如,通过帮助用户提供合适的输
入并减少操作设备/与设备进行交互时的用户错误),另外,通过使用户能够更快速和有效
地使用设备,这还可以降低电力使用并延长设备的电池寿命。
时间的超时时间段(例如,5分钟、7分钟或10分钟),并在预先确定的持续时间到期后自动退
出超时时间段。在一些示例中,电子设备接收包括第二语音数据的第二数据信号。在一些示
例中,根据确定在超时时间段期间接收到第二数据信号,电子设备放弃发出与第二数据信
号对应的第二感知通知,并且以不可用状态响应第二数据信号的源(例如,联系人不可用屏
幕640)。在一些示例中,根据确定在超时时间段(例如,5分钟、7分钟或10分钟)期间未接收
到第二数据信号,电子设备发出不同于第二语音数据的第二感知通知(例如,感知通知
626)。响应于检测到用户输入而自动进入超时时间段允许用户在不方便的情况下(例如,用
户正在开会中)快速使设备静音并防止语音数据的音频输出,并使用户能够保持处于免打
扰模式一段时间,而无需进一步输入便可进入免打扰模式。自动退出超时时间段进一步允
许用户例如在稍后的时间继续接收传入的语音数据,并且如果用户忘记退出超时时间段,
则防止意外丢失传入语音数据。在一组条件已经被满足而不需要进一步的用户输入时执行
操作增强了设备的可操作性,并且使用户‑设备界面更有效(例如,通过帮助用户提供合适
的输入并减少操作设备/与设备进行交互时的用户错误),另外,通过使用户能够更快速和
有效地使用设备,这还可以降低电力使用并延长设备的电池寿命。
时时间段(例如,5分钟、7分钟或10分钟)过去之前,设备检测触摸输入660以手动将开关612
切换到接通位置,该接通位置退出超时时间段并从免打扰屏幕656转变为与最近联系人的
通话用户界面602。
的通话示能表示(例如,通话示能表示606),其中外部设备是与第一联系人相关联的第一外
部设备,以及联系人示能表示(例如,联系人示能表示604),其中联系人示能表示是表示第
一联系人的第一示能表示。例如,传送的数据包括对应于在麦克风处捕获的语音输入的语
音数据。又如,字母组合图案或图像表示联系人示能表示604处的第一联系人。
出指示是从联系人示能表示604产生的波纹的动画,该联系人示能表示在音频输出630的持
续时间内显示,并且在音频输出630停止后移除。在一些示例中,设备针对触觉输出和可听
输出发出消息结束感知通知,以指示音频输出630的结束。
指示是在通话示能表示606和联系人示能表示604处合并的白圈。
输入632)来调节音频输出的音量水平。例如,设备通过根据旋转在通话用户界面602上动画
化音量图标610来在通话用户界面606上显示调节音量水平的指示。
外部设备699a)发送包括与所捕获的语音输入对应的传出语音数据的传出数据信号。例如,
在检测到通话示能表示606处的按压并保持手势时,并且/或者当检测到开始的单次轻击和
停止激活的后续轻击时,设备捕获语音输入。此外,例如,设备向第一外部设备发送实时语
音数据。
通话用户界面(例如,通话用户界面602)中显示输入指示(例如,视觉输入指示624)。例如,
设备在捕获语音输入之前发出感知输出。此外,例如,设备在激活的持续时间内显示与通话
示能表示606相关联的动画,诸如从通话示能表示606产生的波纹。
示通话用户界面(例如,通话用户界面602)时满足的标准,在第一时间发出第三感知通知,
并且响应于接收到通信并且根据不满足该组第一时间通知标准,在第一时间放弃发出第三
感知通知(例如,图6GA)。例如,设备将发出感知通知延迟到比第一时间晚的第二时间,或者
不发出感知通知,并且在一些实施方案中,记录传入的通信,以供稍后从通知中心检索。
用户界面(例如,图6IB至图6IC)。例如,设备接收通信信道断开连接的指示,并且随后关闭
语音通信应用程序,或者将通话用户界面602的显示替换为联系人不可用屏幕640的显示。
收到第三数据信号,并且根据确定第三联系人满足接受要求标准,包括当第三联系人之前
未被接受经由通话用户界面进行通信时满足的标准,电子设备显示邀请屏幕(例如,邀请屏
幕690b),包括接受示能表示(例如,接受示能表示692)和拒绝示能表示(例如,“现在不”示
能表示694)。在一些示例中,响应于接收到对接受示能表示(例如,接受示能表示692)的选
择(触摸输入696),电子设备将邀请屏幕(例如,邀请屏幕690b)的显示替换为通话用户界面
(例如,通话用户界面602b)的显示,并且用表示第三联系人的第三联系人示能表示来更新
该联系人示能表示(例如,联系人示能表示604)。在一些示例中,电子设备响应于接收到用
户对拒绝示能表示(例如,“现在不”示能表示694)的选择,停止显示邀请屏幕(例如,邀请屏
幕690b)。此外,例如,当设备处于空闲状态并且/或者未连接到任何通信信道时,设备不显
示通话用户界面606。
势638),电子设备放弃引起语音数据的音频输出(例如,图6BD)。例如,在音频数据被可听地
输出之前检测到的手掌对手表手势停止音频数据的输出并使设备静音。在发出感知通知之
后并且根据确定在延迟时间段(例如,250ms、500ms或1000ms)内接收到用户输入,放弃引起
语音数据的音频输出允许用户在不期望音频输出的情况下停止不需要的语音通信输出,并
且使用户能够快速、轻松地这样做而无需大量输入。减少执行操作所需的输入的数量增强
了设备的可操作性,并且使用户‑设备界面更有效(例如,通过帮助用户提供合适的输入并
减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用
设备而减少了电力使用并且延长了设备的电池寿命。
输出期间在触敏显示器上检测到第二用户输入(例如,静音手势638),停止语音数据的音频
输出(例如,图6CE)。例如,电子设备中断音频输出630并且/或者停止从电子设备699a接收
进一步的语音数据。如果检测到第二用户输入,则在音频输出已经开始之后停止语音数据
的音频输出,通过帮助用户避免无意中执行音频输出(例如,当用户无意中错过进入第一用
户输入的预先确定的延迟时间段时)并允许用户在决定是否继续音频输出之前听到语音数
据的至少一部分,从而为用户提供了对设备的更多控制。提供附加控制选项增强了设备的
可操作性,并且使用户‑设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作
设备/与设备交互时的用户错误),这又通过使用户能够更快速且高效地使用设备而减少了
电力使用并且延长了设备的电池寿命。
或多个特征。例如,方法1000和11000可与方法900组合以进一步包括在发出感知通知之后
并且根据确定在预先确定的延迟时间段(例如,250ms、500ms或1000ms)内在显示器上检测
到用户输入,设备放弃引起语音数据的音频输出。为了简明起见,这些详情在下文中不再重
复。
面,诸如触敏显示器,并且在一些示例中该设备还具有麦克风和扬声器。方法1000中的一些
操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
得用户能够更快速且更有效地进行通信节省功率并增加电池两次充电之间的间隔。
与第二联系人的第二外部设备(例如,设备699a)相关联的第二通信信道时,电子设备同时
显示与第一联系人相关联的第一示能表示(例如,联系人示能表示704b)和与第二联系人相
关联的第二示能表示(例如,联系人示能表示704a)。例如,第一示能表示和第二示能表示中
的每一者为图像或字母组合图案。在设备当前连接到两个联系人中的仅一个联系人时显示
第一联系人示能表示和第二联系人示能表示,向用户提供可连接另一个联系人以进行语音
通信的反馈,并向用户提供指示建议的其他联系人例如最近和/或最频繁的联系人的视觉
反馈。提供改进的反馈增强了设备的可操作性,并且使用户‑设备界面更有效(例如,通过帮
助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户
能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
人的第二通信信道是在连接到当前连接的信道之前被连接的最近连接的信道时所满足的
标准,其中当前连接的信道是第一通信信道。提供最近的联系人作为第二联系人允许用户
在不同语音通信信道之间快速切换,诸如在当前连接的信道和先前连接的信道之间切换,
这在当时可比最近未连接的另一个通信信道更与用户相关。提供改进的反馈增强了设备的
可操作性,并且使用户‑设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作
设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减
少了电力使用并且延长了设备的电池寿命。
示704b)和第二示能表示(例如,联系人示能表示704a),其中第一示能表示(例如,联系人示
能表示704b)显示在显示器上的第一位置处,第二示能表示(例如,联系人示能表示704a)显
示在相对于显示器上的第一位置的第二位置处。例如,用户请求是在第一示能表示(例如,
联系人示能表示704b)上的轻击输入(例如,触摸输入702b),其引起第二示能表示(例如,联
系人示能表示704a)的显示。
被排序为设备处的多个先前连接的通信信道中的最频繁连接通信信道时满足的标准。
的第二通信信道可用于连接到设备的指示时所满足的标准。例如,第二联系人(例如,联系
人示能表示704a)在网络中,并且/或者具有支持本文公开的语音通信的电子设备诸如设备
100、300和/或500中的任何设备,并且/或者具有电子设备上的语音通信应用程序。
而不是连接到第二通信信道时,显示用于通过第一通信信道与第一联系人(例如,联系人示
能表示704b)进行通信的第一通话示能表示(例如,通话示能表示606)。
一视觉指示(例如,指示符608y、608z)不同于视觉指示(例如,视觉指示608)。例如,第一视
觉指示是第一示能表示(例如,联系人示能表示704b)和通话示能表示(例如,通话示能表示
606)处的两个单独边界。
输出(例如,音频输出630)。在一些示例中,响应于检测到第一通话示能表示(例如,通话示
能表示606)的激活,电子设备捕获麦克风处的第一语音输入,并通过第一通信信道发送包
括与捕获的第一语音输入对应的第一传出语音数据的第一传出数据信号。
与第二联系人的第二外部设备(例如,设备699a)相关联的第二通信信道时,电子设备检测
第二示能表示(例如,联系人示能表示704a)上的触摸输入(例如,触摸输入702c)。
与第二联系人的第二外部设备(例如,设备699a)相关联的第二通信信道时,电子设备在检
测到第二示能表示(例如,联系人示能表示704a)上的触摸输入(例如,触摸输入702c)之后,
从第一通信信道断开连接并连接到第二通信信道。例如,响应于第二示能表示(例如,联系
人示能表示704a)上的触摸输入(例如,触摸输入702c),或者在一些示例中,在通话示能表
示(例如,通话示能表示606)上的进一步触摸输入(例如,触摸输入620)之后,和/或在第二
联系人(例如,联系人示能表示704a)可用的后端检查之后,电子设备断开连接。
信道。响应于检测到触摸输入而从第一通信信道断开连接并连接到第二通信信道,允许用
户利用单个触摸输入来快速切换通信信道。减少执行操作所需的输入数量增强了设备的可
操作性,并且使用户设备界面更高效(例如,通过帮助用户提供适当的输入并减少操作设
备/与设备交互时的用户错误),从而通过使用户能够更快速且高效地使用设备进一步减少
了电力使用并且延长了设备的电池寿命。
中的视觉指示符608)。例如,电子设备将视觉边界(例如,指示符608y、608z)从第一示能表
示(例如,接触示能表示704b)切换到第二示能表示(例如,接触示能表示704a),并且交换第
一示能表示(例如,接触示能表示704b)和第二示能表示(例如,接触示能表示704a)的位置。
显示设备没有连接到第一通信信道而是连接到第二通信信道的视觉指示向用户提供反馈,
该反馈确认当显示多个联系人时设备连接到哪个通信信道以及用户与哪个联系人进行语
音通信,并且还向用户提供指示用户切换通信信道的请求是否已实现的视觉反馈。提供改
进的反馈增强了设备的可操作性,并且使用户‑设备界面更有效(例如,通过帮助用户提供
合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速
且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
人示能表示704a)和第二通话示能表示(例如,通话示能表示606)。
704a)和第二通话示能表示(例如,通话示能表示606)。例如,电子设备显示视觉指示(例如,
视觉指示608)并且显示第二示能表示(例如,接触示能表示704a)而不显示第一示能表示
(例如,接触示能表示704b)。
输出(例如,音频输出630)。在一些示例中,响应于检测到第二通话示能表示(例如,通话示
能表示606)的激活,电子设备捕获麦克风处的第二语音输入,并通过第二通信信道发送包
括与捕获的第二语音输入对应的第二传出语音数据的第二传出数据信号。
例如,第二示能表示(例如,联系人示能表示704a)上的触摸输入(触摸输入630c)断开第一
信道并连接到第二信道,并且退出信道切换模式(例如,信道切换模式700)包括折叠第一示
能表示(例如,联系人示能表示704b)。在一些示例中,当设备连接到第二通信信道而不连接
到第一通信信道时,响应于接收到第二用户请求(例如,触摸输入702d)以重新进入信道切
换模式(例如,信道切换模式700),电子设备在第一位置处显示第二示能表示(例如,联系人
示能表示704a)同时在第二位置处显示第一示能表示(例如,联系人示能表示704b)。
704a)时,电子设备显示第二视觉指示(例如,指示符608y、608z),表明该设备已连接到第二
通信信道而未连接到第一通信信道,其中第二视觉指示(例如,指示符608y、608z)与该视觉
指示(例如,视觉指示608)不同。例如,第二视觉指示(例如,指示符608y、608z)是第二示能
表示(例如,联系人示能表示704a)和通话示能表示(例如,通话示能表示606)处的两个单独
的边界,而视觉指示(例如,视觉指示608)是当设备未处于信道切换模式(例如,信道切换模
式700)中时包括第二示能表示(例如,联系人示能表示704a)和通话示能表示(例如,通话示
能表示606)的单个边界。
704a)时,响应于检测到保持连接到第二通信信道的用户意图(例如,触摸输入702g)时,电
子设备退出信道切换模式(例如,信道切换模式700)并移除第一示能表示(例如,联系人示
能表示704b)的显示。例如,用户意图是在第一示能表示(例如,联系人示能表示704b)或通
话示能表示(例如,通话示能表示606)上的触摸输入(例如,触摸输入702g),或者在一段时
间内在信道切换模式(例如,信道切换模式700)期间缺少触摸输入。此外,例如,电子设备移
除第一示能表示(例如,接触示能表示704b),同时保持第二示能表示(例如,联系人示能表
示704a),并且/或者将第二视觉指示(例如,指示符608x、608y)的显示转变回视觉指示(例
如,视觉指示608)。
电子设备显示合并为单个边界(例如,视觉指示608)的单独边界(例如,指示符608x、608y)。
示能表示704a)以及在相对于显示器上第一位置和第二位置的第三位置处的添加示能表示
(例如,添加示能表示644),检测添加示能表示(例如,添加示能表示644)上的第二触摸输入
(例如,触摸输入702e),在检测到添加示能表示(例如,添加示能表示644)上的第二触摸输
入(例如,触摸输入702e)之后,显示包括第三联系人的联系人列表(例如,联系人列表678),
并且响应于检测到第三联系人的选择(例如,触摸输入682),与第二通信信道断开连接并连
接到与第三外部设备(例如,外部设备699c)对应的第三通信信道,该第三外部设备与第三
联系人相关联。例如,在连接时,如果连接缓慢建立,则电子设备显示连接等待屏幕(例如,
联系人等待屏幕684和/或连接等待屏幕698)。
702h),在第一位置处显示对应于第三联系人的第三示能表示(例如,联系人示能表示704a)
同时在第二位置处显示第二示能表示(例如,联系人示能表示704a),并且在第三位置处显
示添加示能表示(例如,添加示能表示644)。例如,第三用户请求(例如,触摸输入702h)是表
示第三联系人的第三示能表示(例如,联系人示能表示704c)上的轻击输入。
三通信信道并进入空闲状态(例如,图7ED),其中该设备未连接到任何通信信道。
方法的一个或多个特征。例如,方法900和1100可与方法1000组合,以进一步包括同时显示
与第一联系人相关联的第一示能表示和与第二联系人相关联的第二示能表示。为了简明起
见,这些详情在下文中不再重复。
触敏显示器,并且在一些示例中该设备还具有麦克风和扬声器。方法1100中的一些操作任
选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
用户能够更快且更有效地与其他人通信节省了功率并且增加了电池充电之间的时间。
音通信应用程序。在接收到传入语音数据后自动启动语音通信应用程序使用户能够通过应
用程序快速访问通信信道(例如,以查看语音数据的源和/或响应发送器),并且因为该应用
程序会自动显示,所以使用户能够参与语音通信而无需进一步输入来获得对语音通信的访
问。在一组条件已经被满足而不需要进一步的用户输入时执行操作增强了设备的可操作
性,并且使用户‑设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与
设备进行交互时的用户错误),另外,通过使用户能够更快速和有效地使用设备,这还可以
降低电力使用并延长设备的电池寿命。
输入(例如,触摸输入654),启动语音通信应用程序。
信应用程序。
摸输入674d和/或触摸输入674e),启动语音通信应用程序。例如,电子设备显示邀请被拒绝
提示并检测启动应用程序的图标上的触摸输入,而不是仅清除提示。
摸输入674d),启动语音通信应用程序。
用和/或已连接。此外,例如,在语音通信应用程序被启动并且/或者在显示通话示能表示
606时,设备连续地确定通信信道是否可用。
话示能表示606)。例如,电子设备检查是否有任何通信信道可用于连接或当前正在连接。如
果设备确定通信信道可用,则显示与联系人相关联的通话示能表示向用户提供反馈,即由
于联系人当前可用,所以可与联系人交换语音通信。提供改进的反馈增强了设备的可操作
性,并且使用户‑设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与
设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电
力使用并且延长了设备的电池寿命。
接受了先前邀请(例如,邀请屏幕690a)和/或先前连接了外部设备(例如,设备699a)的指
示。
扰模式(例如,免打扰屏幕656a)的第二指示时满足的第二标准。例如,在其中任一用户被关
闭或处于超时时间段的情况下,当设备600、699a中的任一个未被佩戴时,如果设备是可穿
戴设备(例如,设备处的皮肤接触传感器指示缺乏物理皮肤接触),并且/或者当设备600、
699a中的任一个在进行另一个电话或VoIP呼叫时,设备600、699a中的一者或两者处于免打
扰模式。
三指示。例如,两种设备均未关闭电源,也没有处于设备600或699a未连接到任何网络的飞
行模式设置中。
置被启用的第四指示。例如,设备600和699a均不处于免干扰模式、静音模式或其他类型的
抑制通知输出的模式,包括剧院模式和睡眠模式。
备699a处的语音通信应用程序和/或第三方应用程序或电话呼叫中的另一通信信道。
如,开关612)处于接通位置时,设备连接到通信信道。在一些示例中,响应于在可用性切换
件(例如,开关612)处检测到第五触摸输入(例如,触摸输入660)以将接通位置改变为断开
位置,设备从通信信道断开连接并进入免打扰模式(例如,免打扰屏幕656),其中该设备不
可用于经由语音通信应用程序进行通信。例如,电子设备将通话示能表示(例如,通话示能
表示606)替换为免打扰屏幕(例如,免打扰屏幕656),并且通信信道不再满足可用性标准。
此外,例如,设备进入空闲状态,其中在该应用程序处没有连接通信信道。
应于在引起语音数据的音频输出(例如,音频输出630)的同时检测到第五触摸输入(例如,
触摸输入660),电子设备停止接收语音数据或停止语音数据的音频输出(例如,音频输出
630)。例如,电子设备中断音频输出并且/或者停止从设备699a接收进一步的语音数据。
(例如,免打扰模式656),根据确定通信信道满足该组可用性标准,设备连接到通信信道并
显示同时连接到该通信信道(例如,连接到最近的信道)的通话示能表示(例如,通话示能表
示606),并且根据确定该通信信道不满足该组可用性标准,设备放弃显示与联系人相关联
的通话示能表示(例如,通话示能表示606),并进入其中设备保持与通信信道断开连接的空
闲状态。例如,在空闲状态下,设备未连接到语音通信应用程序中的任何通信信道。
通信信道是否满足可用性标准,并且根据确定通信信道不再满足可用性标准,设备从该通
信信道断开连接并且停止显示通话示能表示(例如,通话示能表示606)。例如,当外部设备
699a处的联系人断开和/或失去网络连接时,电子设备显示联系人不可用屏幕(例如,联系
人不可用屏幕640)和/或进入空闲状态。
(例如,麦克风113)处的语音输入。
备699a)发送表示语音输入的语音数据。例如,电子设备向设备699a发送实时语音输入。
(例如,通话示能表示606)上检测到触摸输入(例如,触摸输入620)时通信信道不再满足可
用性标准,设备停止向外部设备(例如,设备699a)发送表示语音输入的语音数据。在一些示
例中,设备还停止捕获语音输出。
道满足该组可用性标准,同时显示联系人不可用屏幕(例如,联系人不可用屏幕604),该设
备连接到通信信道,并用与联系人相关联的通话示能表示(例如,通话示能表示606)替换联
系人不可用屏幕(例如,联系人不可用屏幕604)的显示。在一些示例中,电子设备重新连接
到联系人的设备699a。
(免打扰屏幕656、联系人不可用屏幕(例如,联系人不可用屏幕640)、邀请等待屏幕(例如,
联系人等待屏幕684、连接等待屏幕698)、邀请被拒绝屏幕(例如,联系人被拒绝屏幕6010)
和/或第一次用户设置屏幕(例如,欢迎屏幕800)。当通信信道不可用时放弃显示通话示能
表示向用户提供此时将语音捕获并发送给联系人的功能不是选项的反馈,并且向用户提供
指示联系人的设备此时不能通过通信信道接收语音通信的视觉反馈。提供改进的反馈增强
了设备的可操作性,并且使用户‑设备界面更有效(例如,通过帮助用户提供合适的输入并
减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用
设备而减少了电力使用并且延长了设备的电池寿命。
可用屏幕(例如,联系人不可用屏幕640)、传入邀请屏幕(例如,邀请屏幕690)、邀请等待屏
幕(例如,联系人等待屏幕684、连接等待屏幕698)和邀请被拒绝屏幕(例如,联系人被拒绝
屏幕6010)中的至少一者。当通信信道在应用程序启动之后不可用时显示状态屏幕,向用户
提供关于通信信道不可用的原因以及连接当前是否等待的反馈,并向用户提供指示通信信
道在上述各种情况下是否可变为可用并且/或者用户是否可能必须通过其他通信形式与不
可用的联系人进行通信的视觉反馈。提供改进的反馈增强了设备的可操作性,并且使用户‑
设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时
的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长
了设备的电池寿命。
准,该电子设备连接到通信信道并且将状态屏幕的显示替换为与联系人相关联的通话示能
表示(例如,通话示能表示606)的显示。
受状态改变为联系人接受状态时满足标准。
692)上的第七触摸输入(例如,触摸输入697)以接受与通信信道的连接,状态从等待接受状
态改变为用户接受状态时,满足该标准。
时)不满足的第七标准,电子设备显示添加联系人用户界面(例如,欢迎屏幕800、添加屏幕
808),并且在显示添加联系人用户界面(例如,欢迎屏幕800、添加屏幕808)之后,而且响应
于检测到连接到第一联系人的第一用户请求(例如,触摸输入682),设备连接到与对应于第
一联系人的第一外部设备(例如,设备699a)相关联的第一通信信道。例如,设备显示包括开
始示能表示804的欢迎屏幕800,检测开始示能表示804上的触摸输入806a,并且从欢迎屏幕
800转变为添加包括添加示能表示810的联系人用户界面808。此外,例如,响应于检测到添
加示能表示810上的触摸输入806b,设备显示包括多个联系人的可滚动联系人列表678,并
且响应于选择(例如,触摸输入682)多个联系人中的第一联系人,设备连接到第一通信信
道,并且将可滚动联系人列表678的显示替换为包括联系人的视觉表示(例如,视觉表示
642)和添加示能表示644的状态屏幕(例如,联系人等待屏幕684),用于引起可滚动联系人
列表678的重新显示。在一些示例中,屏幕是邀请等待屏幕。
联系人相关联的第一通话示能表示(例如,通话示能表示606),并且根据确定第一通信信道
不满足该组可用性标准,其中第一通信信道无法连接,设备停止连接到第一通信信道,并显
示邀请被拒绝屏幕(例如,联系人被拒绝屏幕6010)。例如,该设备将邀请等待屏幕(例如,联
系人等待屏幕684)的显示替换为可滚动联系人列表678和联系人不可用屏幕640中的至少
一者,联系人不可用屏幕包括用于引起可滚动联系人列表678的重新显示的添加示能表示
644。
如,设备699a)已接受连接到第一通信信道,电子设备显示邀请接受提示(例如,邀请状态通
知6008,包括启动示能表示670以用于启动应用程序并显示与表示第一联系人的第一示能
表示(例如,联系人示能表示604)相关联的通话示能表示606),并且根据确定第一外部设备
(例如,699a)已拒绝连接到第一通信信道,显示邀请被拒绝提示(例如,图6NF处的邀请状态
通知6008,包括移除通知6008的显示的清除示能表示672)。
一个或多个特征。例如,方法900和1000可与方法1100组合以进一步包括根据确定通信信道
不满足该组可用性标准,设备放弃显示通话示能表示。为了简明起见,这些详情在下文中不
再重复。
作可选地被组合,一些操作的次序可选地被改变,并且一些操作可选地被省略。
数据,并(例如,使用媒体信道1506)单独传输音频数据,该电子设备在框1202处从外部设备
接收控制信号数据(例如,控制信号数据1504)。在一些实施方案中,当用户激活外部设备上
的通话示能表示(例如,通话示能表示606)时,控制信号数据被传输至外部设备。可选地,控
制信号可在实时传输控制协议(RTCP)信号的应用程序特定的数据中编码。在一些示例中,
控制信号数据呈现为控制信道上的上升信号边缘(例如,控制信道1502,信号从默认低状态
变高)。在其他实施方案中,控制信号数据呈现为稳态高信号(例如,控制信道1502上的下降
信号边缘)中的中断。
显示器(例如,触摸屏112)上的视觉通知、触觉输出或它们的任何组合。
的触摸示能表示(例如,设备699a上的触摸示能表示606a)。在另一个此类实施方案中,电子
设备可选地响应于接收到控制信号数据而静默其与媒体信道(例如,媒体信道1506)的上行
链路连接,从而防止第二音频数据(例如,音频数据1610)被发送至外部设备。由于控制信号
数据在音频数据之前被接收,因此以这种方式禁用对麦克风的音频输入有效地防止电子设
备在接收音频数据之前和输出音频数据时立即向外部设备发送语音音频数据。另选地和/
或除此之外,设备699a可选地在接收音频数据1510(例如,设备699a可静默其到媒体信道
1506的上行链路)时不在媒体信道1506上传输音频数据。可选地,麦克风、发射器、与发射器
相关联的模拟‑数字转换器和/或与设备699a上的发射器相关联的音频编解码器在接收音
频数据1510时也被断电,从而降低或消除对媒体信道1506和/或控制信道1510的供电。因
此,对于电子设备和外部设备之间的全双工实时音频通信会话(例如,会话允许同时传输和
接收音频数据),在一些情况下,响应于控制信号禁用音频输入允许在任何给定时间外部设
备或电子设备(例如,设备600和699a)中只有一个能传输音频数据。
显示通话用户界面602或602a,当不再激活通话示能表示606或606a时,并且/或者在当前不
输出语音数据时)发出通知(例如,通知664a)。例如,响应于控制信号而被抑制的来自其他
应用程序的感知通知包括对应于接收到文本消息、电子邮件提示等的音频、视觉和/或触觉
提示。可选地,被抑制的感知通知在经过预先确定的时间段之后或在外部设备和电子设备
之间的全双工实时音频通信会话被终止之后发出。
些示例中,音频数据是对语音信号(例如,在激活通话示能表示606之后由外部设备600上的
麦克风(例如,麦克风113)拾取的语音信号)进行编码并且散布在现有音频数据流(例如,通
过媒体信道1506传输的音频数据流)中的数字数据流。在全双工实时音频通信会话期间,基
线音频数据(例如,基线音频数据1508,来自静音麦克风的基线信号)在一些情况下仍然传
输,即使其不对语音信号进行编码。在这种情况下,基线音频数据可选地以比可对语音信号
进行编码的音频数据更低的比特率传输。在一些实施方案中,音频数据和基线音频数据使
用MPEG、AWS、EVS、ACELD或适用于实时应用的任何其他音频编解码器进行压缩。
输出音频数据。
道(例如,媒体信道1506)上接收音频数据(例如,语音音频数据1510)。
荷(例如,对语音信号进行编码的RTP信号)。在一些示例中,控制信号数据(例如,控制信号
数据1504)被编码在所述多个音频数据分组中的至少一个音频数据分组的标头中。在这种
情况下,控制信号数据和音频数据由同一信道上的电子设备接收。例如,如果音频数据根据
RTP标准被传输到电子设备,则对应的控制信号数据可选地在音频数据流中的第一个RTP分
组的RTP扩展标头中被编码。另选地和/或除此之外,如果音频数据根据TCP标准被传输到电
子设备,则对应的控制信号数据可选地在音频数据流中的第一个TCP分组的TCP扩展标头中
被编码。
一些实施方案中,对麦克风的音频输入响应于在电子设备处接收到用户输入(例如,激活通
话示能表示606a的用户触摸620a)而被启用。在一些实施方案中,仅当在从外部设备接收到
控制信号数据(例如,控制信号1504)之前或在外部设备发送的音频数据(例如,语音音频数
据1510)回放完成之后检测到用户输入时,才启用对麦克风的音频输入。
先确定的时间段1612)启用对麦克风的音频输入。
第二音频数据是对语音信号(例如,在激活通话示能表示606a之后由电子设备699a上的麦
克风(例如,麦克风113)拾取的语音信号)进行编码并且散布在现有音频数据流(例如,通过
媒体信道1606传输的音频数据)中的数字数据流。在一些情况下,在全双工实时音频通信会
话期间,基线音频数据(例如,基线音频数据1608,来自静音麦克风的基线信号)仍然传输
(例如,在媒体信道1606上),即使其不对语音信号进行编码。在这种情况下,基线音频数据
可选地以低于音频数据的比特率(例如,采样率)传输到外部设备。在一些情况下,音频数据
和基线音频数据使用MPEG、AWS、EVS、ACELD或适用于实时应用的任何其他音频编解码器进
行压缩。
子设备和外部设备上大致同时激活通话示能表示606和606a,则在一些情况下,外部设备
(例如,设备600)在接收第二控制信号数据(例如,控制信号数据1604)之前但在电子设备
(例如,设备699a)上的通话示能表示被激活之后检测用户对通话示能表示的激活。在一些
情况下,这种定时冲突是由延迟、信号传输的非瞬时性质或许多其他因素引起的。在这些情
况下,有必要确定外部设备的通话示能表示是否在由发送设备生成控制信号数据之前被激
活。在一些示例中,随后该结果确定哪个设备(例如,通过媒体信道1606)传输音频数据以及
哪个设备的音频输出被禁用。在上述示例中,可选地基于包含在控制信号数据和/或第二控
制信号(例如,控制信号1604)中的时钟数据来确定是否在控制信号数据(例如,控制信号
1504)生成之前发生了激活通话示能表示606a的用户输入。在一些实施方案中,时钟数据是
指定生成控制信号数据的绝对时间(例如,自信令标准预先确定的时间以来经过的时间)的
时间戳。在其他实施方案中,时钟数据是指定自电子设备和外部设备之间的音频通信会话
建立以来经过的时间的时间戳。在一些示例中,如果控制信号数据(例如,控制信号数据
1504)的时间戳与第二控制信号数据(例如,控制信号1604)的时间戳之间的时间差小于电
子设备和外部设备之间的平均信号传输时间,则执行确定。
输出音频数据(例如,音频数据1510)。根据确定用户输入在生成控制信号数据之后发生,电
子设备可选地防止对麦克风的音频输入被启用并且从扬声器输出音频数据。
安全实时传输协议、通用数据报协议和传输控制协议。
议、实时传输协议和传输控制协议。
13的方法中的一些操作可选地被组合,一些操作的次序可选地被改变,并且一些操作可选
地被省略。
备和外部设备之间建立全双工实时音频通信会话(例如,实时音频通信会话1500)。例如,在
一些情况下,该请求是根据会话发起协议(SIP)传输的信号,该信号包括INVITE请求和指定
全双工实时音频通信会话的媒体格式的描述单元。在图6NB的示例中,响应于通过触摸输入
682从联系人列表678中检测到Aaron Smith的选择,将请求由电子设备发送到外部设备。
立了通信会话)。
信道1506)。具体地,电子设备建立全双工实时音频通信会话,而不接收确认该请求的用户
输入(例如,用户触摸692)。
音频通信会话之后,将麦克风禁用预先确定的时间段(例如,1s、5s、10s、30s等)。根据其他
实施方案,禁用对麦克风的音频输入,直到通过电子设备上的扬声器(例如,扬声器113)完
成音频数据(例如,语音音频数据1510)的回放。在其他实施方案中,禁用对麦克风的音频输
入,直到激活电子设备上的通话示能表示(例如,通话示能表示606a)。
全双工实时音频通信会话。
关联的第二外部设备(例如,设备699b)之间建立第二全双工实时音频通信会话。在一些示
例中,响应于向第二外部设备发送请求,电子设备将附加联系人添加到白名单(例如,设备
600上的白名单)。例如,在一些情况下,该请求是根据会话发起协议(SIP)传输的信号,该信
号包括INVITE请求和指定全双工实时音频通信会话的媒体格式的描述单元。
状态之间的转变。在接收到会话发起请求(例如,SIP信号)之前,接收器设备处于空闲状态
1400。例如,图6KA中的设备699b在接收到传入呼叫之前处于空闲状态1400。在空闲状态
1400下,不显示通话用户界面602b、请求6000c和与语音通信应用程序相关联的任何其他示
能表示,并且接收设备(例如,699b)不通过语音通信应用程序连接到其他设备。
名单上(例如,该设备先前已通过语音应用程序与之通信的已审查联系人的列表)。如果联
系人未被列入白名单(例如,不在图13的框1310处确定的白名单上),则接收设备转变到预
激活状态1402。例如,在从与未被列入白名单的联系人(例如,John)相关联的外部设备(例
如,设备600)接收到会话发起请求之后,图6KJ中的设备699b处于预激活状态1402。在预激
活状态1402下,设备可选地等待接受请求的用户输入,并且仅在检测到接受请求的用户输
入时(例如,在图13的框1310处)建立音频通信会话。在等待接受请求的用户输入时,接收设
备可选地显示邀请屏幕(例如,邀请屏幕690b),该邀请屏幕包括呼叫请求的视觉指示,以及
用于接受传入呼叫的示能表示(例如,接受示能表示692)或拒绝传入呼叫的示能表示(例
如,拒绝示能表示694)。在一些情况下,接收设备响应于接收到传入呼叫(例如,在图12的框
1204处)可选地发出音频、视觉或触觉通知。在一些示例中,接收设备还向外部设备发送响
应信号(例如,SIP响应代码),该响应信号确认接收到会话发起请求,但是不接受或拒绝。
活动状态1406。在活动状态1406下,接收器设备连接至分配给与呼叫设备(例如,设备600)
的实时音频通信会话的一个或多个通信信道。例如,接收设备可选地经由图15所示的控制
信道1502和媒体信道1506连接到呼叫(外部)设备。在活动状态1406下,接收设备(例如,设
备699b)可选地向/从外部设备接收和传输音频和/或控制数据。具体地,当处于活动状态
1406时,接收设备可选地从呼叫设备接收控制信号数据(例如,在图12的框1202处),并且响
应于接收到控制信号数据而发出附加感知通知(例如,在图12的框1204处的通知630)。在自
接收到控制信号数据以来的预先确定的时间之后,当仍然处于活动状态1416时,接收设备
还从外部设备接收音频数据(例如,在图12的框1210处的音频数据1510)。在自发出附加感
知通知以来的第二预先确定的时间段之后,当仍然处于活动状态1416时,接收设备在扬声
器(例如,扬声器111,图12的框1212)上输出从外部设备接收的音频数据。当处于活动状态
1406时,接收设备可选地显示通话用户界面(例如,通话用户界面602b),以及可被激活以将
音频数据传输到外部设备(例如,使用麦克风113)的通话示能表示(例如,通话示能表示
606b)。在图14A的示例中,在从实时音频通信会话断开连接之后(例如,由于超时、退出语音
通信应用程序等),或者如果网络连接丢失,则接收设备返回空闲状态1400。
图6L‑4中的设备600处于自动应答状态1404。在处于自动应答状态1404时,接收设备可选地
连接至分配给与呼叫设备的实时音频通信会话的一个或多个通信信道,以便可接收传入的
音频数据。在一些示例中,设备600还发出指示音频会话正在建立并且音频数据正在传入的
音频、视觉和/或触觉通知(例如,通知626)。在连接到一个或多个通信信道之后,接收器设
备自动转变到活动状态1406,而无需接收确认会话发起请求的用户输入(例如,在图13的框
1306处建立全双工实时音频通信会话)。
用程序或发出呼叫之前,呼叫设备处于空闲状态1410。例如,图6KA中的设备600处于空闲状
态1410。在该状态下,呼叫设备未通过语音通信应用程序连接到另一个设备,但可选地显示
表示可向其进行呼叫的联系人的联系人列表(例如,联系人列表678)。另选地,呼叫设备(例
如,设备600)可选地显示主屏幕(例如,图6KG中的主屏幕650)或除语音通信应用程序之外
的另一应用程序的用户界面。
在该状态下,呼叫设备可选地显示联系人等待屏幕(例如,联系人等待屏幕684),指示呼叫
设备正在等待连接。在一些情况下,当处于呼叫状态1412时,呼叫设备(例如,设备600)向外
部设备(例如,设备699b)发送会话发起请求(例如,SIP请求信号),并且可选地连接到分配
给与外部设备的实时音频通信会话的一个或多个通信信道(例如,图16中的控制信道1602
和媒体信道1606)。
活动状态1416。在活动状态1416下,呼叫设备和接收设备均通过实时音频通信会话连接,并
且可传输或接收媒体和/或控制数据(例如,通过媒体信道1606和控制信道1602)。呼叫设备
600可选地显示具有通话示能表示606的通话用户界面602,该通话示能表示的激活允许用
户向如上所述的接收设备(例如,设备699b)发送语音音频数据。在图14B的示例中,在从实
时音频通信会话断开连接之后(例如,由于超时、退出语音通信应用程序等),或者如果网络
连接丢失,则呼叫设备返回空闲状态1410。
于呼叫状态1412,呼叫设备可选地显示联系人等待屏幕,诸如图6KA中设备600上所示的联
系人等待屏幕684。当处于预激活状态1414时,呼叫设备等待指示接收设备接受或拒绝会话
发起请求的信号(例如,SIP响应代码)。
态下,设备600可选地显示联系人被拒绝屏幕6010(例如,在接收器拒绝该请求的情况下)。
另选地,在接收器设备未连接到网络或正在进行另一呼叫的情况下,该设备可选地显示该
联系人不可用的指示(例如,图6OC中的设备699a上显示的联系人不可用屏幕640a)。在图
14B的示例中,呼叫设备然后转变回到空闲状态1410。例如,在进入不可用状态1418之后的
预先确定的时间,或者响应于用户退出语音通信应用程序,设备转变回到空闲状态1410。然
而,如果接收设备稍后在预先确定的时间段(例如,5m、10m、30m或另一合适的时间段)内接
受请求,则呼叫设备可选地直接转变到活动状态1416。在该示例中,接收设备在预先确定的
窗口内自动回答由接收器返回的呼叫。
多修改形式和变型形式都是可能的。选择并描述这些实施方案是为了最好地解释这些技术
的原理及其实际应用程序。本领域的其他技术人员由此能够最好地利用这些技术以及具有
适合于所预期的特定用途的各种修改的各种实施方案。
括在由权利要求书所限定的本公开和示例的范围内。
采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信
息数据可以包括人口统计数据、基于位置的数据、电话号码、电子邮件地址、推特ID、家庭地
址、与用户的健康或健康水平有关的数据或记录(例如,生命体征测量、药物信息、锻炼信
息)、出生日期或任何其他识别或个人信息。
实时音频内容。此外,本公开还预期个人信息数据有益于用户的其他用途。例如,健康和健
身数据可用于向用户的总体健康状况提供见解,或者可用作使用技术来追求健康目标的个
人的积极反馈。
满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。
此类政策应该能被用户方便地访问,并应随着数据的采集和/或使用变化而被更新。来自用
户的个人信息应当被收集用于实体的合法且合理的用途,并且不在这些合法使用之外共享
或出售。此外,应在收到用户知情同意后进行此类采集/共享。此外,此类实体应考虑采取任
何必要步骤,保卫和保障对此类个人信息数据的访问,并确保其他有权访问个人信息数据
的人遵守其隐私政策和流程。另外,这种实体可使其本身经受第三方评估以证明其遵守广
泛接受的隐私政策和实践。此外,应当调整政策和实践,以便采集和/或访问的特定类型的
个人信息数据,并适用于包括管辖范围的具体考虑的适用法律和标准。例如,在美国,对某
些健康数据的收集或获取可能受联邦和/或州法律的管辖,诸如健康保险流通和责任法案
(HIPAA);而其他国家的健康数据可能受到其他法规和政策的约束并应相应处理。因此,在
每个国家应为不同的个人数据类型保持不同的隐私实践。
据的访问。例如,就实时音频服务而言,本发明技术可被配置为在注册服务期间或之后任何
时候允许用户选择“选择加入”或“选择退出”参与对个人信息数据的收集。又如,用户可选
择不提供音频数据和/或获得的与实时音频通信会话相关的任何其他数据。在又一示例中,
用户可选择限制音频数据(和/或获得的与实时音频通信会话相关的任何其他数据)的维护
时间长度,或者完全禁止开发包含音频数据的基线用户配置文件(和/或在语音通信会话期
间获得的任何其他数据)。除了提供“选择加入”和“选择退出”选项外,本公开设想提供与访
问或使用个人信息相关的通知。例如,可在下载应用时向用户通知其个人信息数据将被访
问,然后就在个人信息数据被应用访问之前再次提醒用户。
且当适用时,包括在某些健康相关应用中,数据去标识可用于保护用户的隐私。可在适当时
通过移除特定标识符(例如,出生日期等)、控制所存储数据的量或特异性(例如,在城市级
别而不是在地址级别收集位置数据)、控制数据如何被存储(例如,在用户之间聚合数据)、
和/或其他方法来促进去标识。
实现。即,本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而
无法正常进行。例如,可通过基于非个人信息数据或少量的个人信息,诸如与用户相关联的
设备请求的内容,其他非个人信息或公开可用的信息来选择内容并且递送至用户。