美国佛罗里达州起诉OpenAI，指控其容许ChatGPT协助和教唆大规模枪击案

针对OpenAI公司的人工智慧（AI）聊天机器人ChatGPT的设计和安全问题，佛罗里达州成为美国第一个起诉该公司的州份。

这宗由州总检察长詹姆斯‧乌斯迈尔（James Uthmeier）提出的全面诉讼，指控OpenAI及其首席执行官山姆·阿尔特曼（Sam Altman）在追求利润的过程中，正在危害儿童并使其上瘾、协助和教唆大规模枪击案，并诱使用户自杀。

对此，OpenAI在回应声明中表示“已经制定了行业领先的保护措施和政策”。

这项法律行动正值佛罗里达州展开刑事调查之际，当局正调查ChatGPT是否在去年佛罗里达州立大学一宗造成两人死亡的大规模枪击事件中扮演了某种角色。

根据诉状，佛罗里达州提出的民事诉讼还试图追究阿尔特曼的个人责任，指控其“鲁莽和故意的行为”，包括“完全漠视其公司行为对人类生命造成的风险”。

诉讼对OpenAI提出多项指控，包括欺骗性及不公平商业行为、疏忽、违反产品责任法、虚假陈述以及造成公共滋扰。

诉状提及佛罗里达州立大学的大规模枪击事件，以及南佛罗里达大学两名博士生遭杀害案件；检方称，疑犯曾向ChatGPT查询如何处理人体的问题。

州总检察长乌斯迈尔周一在记者会上表示：“山姆·阿尔特曼与ChatGPT选择在人工智慧竞赛中领先，而不是保障我们孩子的安全。他们选择将利润置于公共安全之上，而我们在佛罗里达州不会容许这种情况，因此将追究他们的责任。”

OpenAI在回应BBC的声明中表示：“失去孩子是任何家庭都可能遭遇的最具毁灭性的悲剧，我们深知任何言语都无法表达失去亲人的痛苦。”

“人工智慧是一项崭新且强大的技术，我们认为未成年人需要得到充分的保护，因此我们制定了行业领先的保护措施和政策。”

该公司表示，其产品中已内建针对未成年人的安全设计，例如年龄识别工具，以及其他让家长监察子女使用AI的方式。

一名OpenAI发言人说：“我们明白，指出这些措施并不能让孩子复活，但我们致力于把这件事做好。”

这场诉讼发生之际，OpenAI正面临一系列针对该公司安全措施的诉讼，其中包括几宗声称ChatGPT曾充当“自杀教练”并助长有害妄想的案件。

今年早些时候，加拿大小镇坦布勒岭（Tumbler Ridge）大规模枪击案的一些受害者家属也起诉了OpenAI，该公司因嫌疑人的ChatGPT帐户存在问题而将其封禁，但未向当局通报。

该公司已就未联系警方一事道歉，但表示嫌疑人的帐户未达到其认定“对他人构成可信或即时严重人身伤害计划”的门槛。

其他大型科技公司亦面临法律挑战。

今年稍早，佛罗里达州一父亲起诉谷歌，指其旗舰AI产品导致其儿子陷入妄想，最终自杀身亡。

与此同时，包括Instagram母公司Meta、Snap Inc、TikTok以及谷歌旗下YouTube在内的社交媒体公司，正面对来自各州、学区及个人的一连串诉讼，指控其产品设计令人上瘾。

今年3月，Meta与谷歌被裁定须为一名20岁原告造成的损害承担责任，该原告称他们故意将平台设计成容易令人上瘾。

这项胜利标志着法律面貌出现了显著的转变。长期以来，科技公司一直主张其不对用户生成的内容负责，但涉及产品设计选择的责任案件似乎正在获得越来越多的关注。

乌斯迈尔与佛罗里达州州长罗恩·德桑蒂斯（Ron DeSantis，迪尚特）均为共和党人，他们令那些曾得到美国总统特朗普（Donald Trump，川普）大力支持的人工智慧公司感到沮丧。

佛罗里达州亦反对特朗普政府试图阻挠美国各州对人工智慧进行监管，并于近期提出一项“人工智慧权利法案”（Artificial Intelligence Bill of Rights），旨在加强数据私隐保障，并保护居民免受数据中心带来的负面经济影响。