微软投资的OpenAI首席执行官Sam Altman呼吁美国政府对高级大型语言模块的部署进行监管,并警告称在没有坚实政策框架的情况下,生成式人工智能或构成威胁。

Altman在美国国会探讨生成式人工智能监管的听证会上表示,随着社会对人工智能的担忧与日俱增,政府监管对于降低不断增长的强大语言模型风险至关重要。

他在发言中所讨论的威胁集中在人工智能带来的错误信息传播以及侵犯数据隐私法方面,这些都与OpenAI如何训练其模型相关。

国会议员 Richard Blumenthal在听证会上表示,未经充分培训的人工智能前景“是非常恐怖的”,并表示新技术必须“自行承担责任”。

这位官员指出, OpenAI的 ChatGPT具有模仿和模拟真实人类交互的能力,他的听证会证词即是由一段由他本人声音所训练的模型生成的。

Altman建议成立政府机构来监管人工智能的训练和部署,此举有利于人工智能技术的发展,并解释称对开发者需要进行“授权并公布测试要求”。

他同时也提出建议,应对超过特定“门槛”或“功能”的人工智能工具开发者吊销许可,例如,能够自我复制或生成有害内容的模型就需要被废止。

Altman指出需要出台一个监管法案,指明机器学习工具如何从网上收集数据并生成回复。

他补充指出,“应具备可供用户选择退出的选项,以避免其个人数据被类似我们公司或其他社交媒体公司所使用”。