朋皓头条朋皓头条

拜登首席科学顾问:多次与总统讨论AI问题 将尽快出台防范风险措施

财联社

  作为拜登的拜登首席科学顾问兼白宫科技政策办公室主任,阿拉蒂·普拉巴卡尔(Arati Prabhakar)是首席施一位在美国科技界拥有深厚影响力的女性工程师。在近期接受媒体采访时,科学快出玉未央之绞丝环普拉巴卡尔透露,顾问已经与总统拜登多次讨论有关于人工智能(AI)问题,多次拜登要求尽快出台防范人工智能风险的总统保障措施。

  普拉巴卡尔正在帮助美国政府制定国家人工智能发展战略,讨论台防以防范错误信息和该技术的问题其他潜在缺点,部分依赖于亚马逊、将尽谷歌、范风微软和Meta等美国大型科技公司的险措合作。

  在上个月,拜登亚马逊、首席施Anthropic、科学快出谷歌、顾问玉未央之绞丝环Inflection、Meta、微软和OpenAI等七家主要人工智能公司将做出自愿承诺,承诺内容包括在公开发布之前测试它们人工智能系统的安全性和能力,投资研究该技术对社会的风险,以及促进针对它们的系统漏洞的外部审查。

  拜登政府表示,为了遏制快速发展的人工智能技术带来的误导和其他风险,已与大型科技公司达成一项为这种技术设置更多防护措施的协议,包括开发水印系统,帮助用户识别人工智能生成的内容。

  对此,普拉巴卡尔指出,世界上最先进的人工智能公司大多在美国,这是美国国家发展的一个巨大的优势。但我们也必须清楚,必须要制定相应的规则,七家主要人工智能公司的自愿承诺只是在履行自己的责任。

  普拉巴卡尔补充道,政府部门也必须加强行动,无论是行政部门还是立法部门,如此才能使相关技术和公司行稳致远,也希望更多的公司和国家加入进来。

  她表示:“已经与拜登多次谈论过人工智能的话题,他非常专注于理解人工智能是什么,以及人们是如何使用它的。”

  普拉巴卡尔指出,拜登非常关注人工智能技术带来的社会影响和可能的结果,这些谈话很有探索性和前瞻性,但他也非常关注具体的行动。

  对于人工智能可能的风险,普拉巴卡尔表示,这些深度学习系统有一个技术特点,那就是它们是不透明的,它们本质上是黑盒子。而作为人类,我们面临的大多数风险都来自无法解释的事情。

  普拉巴卡尔提到,要特别关注人工智能系统的武器化、隐私问题、歧视性决策,以及人工智能生成的内容扰乱选举等风险。

  而防范风险方面,她认为不会有完美的措施,但在对这些系统的安全性和有效性有足够的了解之后,可以真正使用它们,并获得新兴技术所能提供的价值。

  普拉巴卡尔还表示,虽然还不能给出一个具体的时间表,但总统已经明确表示,这是一个非常急迫的问题,将会尽快出台防范风险的措施。

责任编辑:周唯

赞(469)
未经允许不得转载:>朋皓头条 » 拜登首席科学顾问:多次与总统讨论AI问题 将尽快出台防范风险措施