美国FCC提议AI生成电话语音必须“自报”AI身份,以打击骚扰、欺诈信息
AI“模仿”人类声音的能力日渐成熟,已经有部分用户开始无法凭借第一反应来判断说话者是人类还是人工智能。当前,AI 生成的语音被越来越多地用在语音通话中,例如广告宣传或推销等领域。
据 TechRadar 北京时间今天报道,美国联邦通信委员会(IT之家注:下文简称 FCC)正试图打击一些利用 AI 生成通话语音的不法行为和恶意企图,并提出一项提案旨在加强对消费者的保护,使消费者免受“不受欢迎的”AI 自动电话的侵害。
FCC 的计划将帮助“定义”AI 生成的电话和短信,从而使委员会能够设置界限和规则,例如强制要求 AI 生成的声音在拨打电话时披露它们的 AI 身份。
FCC 提出这项提案的背景,是 AI 开始被用于一些“不太正当”的通信活动。同时,这也将作为 FCC 打击“AI 自动电话”作为骚扰、欺诈手段的努力之一。该提案将要求呼叫方披露 AI 生成的声音和文字,通话开始时,AI 必须对其所“说”内容进行解释,以及其使用的声音的人工来源。据悉,任何未能遵守这一规定的组织将被处以重罚。
除了追查“AI 自动电话”的身份外,FCC 还希望推出一种工具,可在人们收到 AI 生成的电话语音和短信文本时发出提醒,尤其针对那些不受欢迎或非法的内容。据报道,这种工具可能包括性能更强的呼叫过滤器、基于 AI 的检测算法,或者增强的来电显示功能,用来识别、标记 AI 生成的电话。