当前位置:首页 >热点 >美参议院司法听证会:AI 难以控制,恶意分子可能会利用其开发生化武器 分可发生据外媒 TechCrunch 报道

美参议院司法听证会:AI 难以控制,恶意分子可能会利用其开发生化武器 分可发生据外媒 TechCrunch 报道

2024-06-16 18:48:32 [百科] 来源:避面尹邢网

美参议院司法听证会:AI 难以控制,美参恶意分子可能会利用其开发生化武器

作者:漾仔 人工智能 美国国会参议院司法委员会在昨日举行了人工智能听证会,议院在会中,司法多名 AI 行业从业者警告称,听证人类无法妥当控制飞速发展的化武 AI,因此未来几年内 AI 恐造成严重危害,控制恶意分子有可能利用绕过监管的恶意 AI 工具制造生化武器。

7 月 26 日消息,分可发生据外媒 TechCrunch 报道,利用美国国会参议院司法委员会在昨日举行了人工智能听证会,其开器在会中,美参多名 AI 行业从业者警告称,议院人类无法妥当控制飞速发展的司法 AI,因此未来几年内 AI 恐造成严重危害,听证恶意分子有可能利用绕过监管的化武 AI 工具制造生化武器。

美参议院司法听证会:AI 难以控制,恶意分子可能会利用其开发生化武器 分可发生据外媒 TechCrunch 报道

参议院司法委员会小组委员会主席 Richard Blumenthal 主持了此次听证会,他表示,人类已经证明自己有能力发明当时令人难以置信的新技术。他把 AI 比作美国的第二次“曼哈顿计划”或 NASA 的第二次“载人登月计划”,但台下的业界代表却更多表现出对 AI 的担忧。

美参议院司法听证会:AI 难以控制,恶意分子可能会利用其开发生化武器 分可发生据外媒 TechCrunch 报道

美国 AI 创业公司 Anthropic 的 CEO Dario Amodei 在听证会上表示,他担心尖端 AI 技术可能在短短两年时间内就会被用来制造危险的病毒和其他生化武器,该公司此前从谷歌获得了 3 亿美元(IT之家注:约 21.47 亿元人民币)的投资,并依靠谷歌的数据中心来训练“更具信赖性”的 AI 模型。

美参议院司法听证会:AI 难以控制,恶意分子可能会利用其开发生化武器 分可发生据外媒 TechCrunch 报道

蒙特利尔大学 AI 教授、“现代 AI 科学之父” Yoshua Bengio 则表示,他对 GPT-4 等模型实现的巨大飞跃感到震惊,他认为,当下各国之间应当积极进行合作来控制 AI 的发展,建立类似核技术监管规则的制度。

加州大学伯克利分校计算机科学教授斯 Stuart Russell 则认为,当下的 AI 的工作方式充满“不可知”性,与其他可控的强大技术相比,当下 AI 缺乏一个“超级管理工具”,因此人们目前无法得知 AI 的实际意图和所有可能做出的行为。

据悉,在过去六个月里,业界已经将好莱坞大片中的“超级 AI”可能出现的时间点,从既定的几十年后拨前至“仅仅几年后”,而围绕“超级 AI”可能产生的种种问题也随之而出,引发了社会普遍的担忧。

责任编辑:姜华 来源: IT之家 人工智能AI

(责任编辑:综合)

    推荐文章
    热点阅读