針對OpenAI公司的人工智慧（AI）聊天機器人ChatGPT的設計和安全問題，佛羅里達州成為美國第一個起訴該公司的州份。

這宗由州總檢察長詹姆斯‧烏斯邁爾（James Uthmeier）提出的全面訴訟，指控OpenAI及其首席執行官山姆·阿爾特曼（Sam Altman）在追求利潤的過程中，正在危害兒童並使其上癮、協助和教唆大規模槍擊案，並誘使用戶自殺。

對此，OpenAI在回應聲明中表示「已經制定了行業領先的保護措施和政策」。

這項法律行動正值佛羅里達州展開刑事調查之際，當局正調查ChatGPT是否在去年佛羅里達州立大學一宗造成兩人死亡的大規模槍擊事件中扮演了某種角色。

根據訴狀，佛羅里達州提出的民事訴訟還試圖追究阿爾特曼的個人責任，指控其「魯莽和故意的行為」，包括「完全漠視其公司行為對人類生命造成的風險」。

訴訟對OpenAI提出多項指控，包括欺騙性及不公平商業行為、疏忽、違反產品責任法、虛假陳述以及造成公共滋擾。

訴狀提及佛羅里達州立大學的大規模槍擊事件，以及南佛羅里達大學兩名博士生遭殺害案件；檢方稱，疑犯曾向ChatGPT查詢如何處理人體的問題。

州總檢察長烏斯邁爾周一在記者會上表示：「山姆·阿爾特曼與ChatGPT選擇在人工智慧競賽中領先，而不是保障我們孩子的安全。他們選擇將利潤置於公共安全之上，而我們在佛羅里達州不會容許這種情況，因此將追究他們的責任。」

OpenAI在回應BBC的聲明中表示：「失去孩子是任何家庭都可能遭遇的最具毀滅性的悲劇，我們深知任何言語都無法表達失去親人的痛苦。」

「人工智慧是一項嶄新且強大的技術，我們認為未成年人需要得到充分的保護，因此我們制定了行業領先的保護措施和政策。」

該公司表示，其產品中已內建針對未成年人的安全設計，例如年齡識別工具，以及其他讓家長監察子女使用AI的方式。

一名OpenAI發言人說：「我們明白，指出這些措施並不能讓孩子復活，但我們致力於把這件事做好。」

這場訴訟發生之際，OpenAI正面臨一系列針對該公司安全措施的訴訟，其中包括幾宗聲稱ChatGPT曾充當「自殺教練」並助長有害妄想的案件。

今年早些時候，加拿大小鎮坦布勒嶺（Tumbler Ridge）大規模槍擊案的一些受害者家屬也起訴了OpenAI，該公司因嫌疑人的ChatGPT帳戶存在問題而將其封禁，但未向當局通報。

該公司已就未聯繫警方一事道歉，但表示嫌疑人的帳戶未達到其認定「對他人構成可信或即時嚴重人身傷害計劃」的門檻。

其他大型科技公司亦面臨法律挑戰。

今年稍早，佛羅里達州一父親起訴谷歌，指其旗艦AI產品導致其兒子陷入妄想，最終自殺身亡。

與此同時，包括Instagram母公司Meta、Snap Inc、TikTok以及谷歌旗下YouTube在內的社交媒體公司，正面對來自各州、學區及個人的一連串訴訟，指控其產品設計令人上癮。

今年3月，Meta與谷歌被裁定須為一名20歲原告造成的損害承擔責任，該原告稱他們故意將平台設計成容易令人上癮。

這項勝利標誌著法律面貌出現了顯著的轉變。長期以來，科技公司一直主張其不對用戶生成的內容負責，但涉及產品設計選擇的責任案件似乎正在獲得越來越多的關注。

烏斯邁爾與佛羅里達州州長羅恩·德桑蒂斯（Ron DeSantis，迪尚特）均為共和黨人，他們令那些曾得到美國總統特朗普（Donald Trump，川普）大力支持的人工智慧公司感到沮喪。

佛羅里達州亦反對特朗普政府試圖阻撓美國各州對人工智慧進行監管，並於近期提出一項「人工智慧權利法案」（Artificial Intelligence Bill of Rights），旨在加強數據私隱保障，並保護居民免受數據中心帶來的負面經濟影響。

• AI機器人「聽見我、陪伴我、回應我」，但它會誘導人自殺嗎？
• AI 2027: 人工智能會令人類滅亡嗎？
• 「AI妄想」：為何他們深信自己「被追殺」甚至襲擊枕邊人？
• 為什麼AI公司想讓你害怕？
• OpenAI報告指中國賬號求助ChatGPT打壓異見人士，要求協助抹黑高市早苗
• AI機器人會真的愛上你嗎？

本網頁內容為BBC所提供, 內容只供參考, 用戶不得複製或轉發本網頁之內容或商標或作其它用途，並且不會獲得本網頁內容或商標的知識產權。

BBC中文