微軟等領軍企業創建前沿模型論壇 以確保人工智能安全性
【彭博】-- 面對為人工智能開發設置護欄的呼籲,包括Alphabet Inc.旗下谷歌和OpenAI Inc.在內的一些科技公司聯合建立了一個行業組織,以確保人工智能模型是安全的。
這項努力也得到了人工智能初創企業Anthropic和微軟的支持。根據周三的一份聲明,該行動的目標是整合會員公司的專業知識,並為行業創立基準。這個名為前沿模型論壇(Frontier Model Forum)的組織稱,歡迎其他致力於大型機器學習平台的組織參與進來。
OpenAI的ChatGPT可以根據簡單的提示創建文本、照片甚至視頻,諸如此類生成式AI工具的迅猛發展給科技巨頭帶來了必須要謹慎行動的壓力。在白宮的敦促下,參與前沿模型論壇的公司已經同意制定一些安全保障措施,而美國國會也可能會通過一些約束性的法規。
「這是一項緊迫的工作,這個論壇具備迅速採取行動來推進人工智能安全狀況的有利條件,」 OpenAI全球事務副總裁Anna Makanju在聲明中說。
該論壇計畫在未來幾個月內成立一個顧問委員會,以評估優先事項,並希望確立章程、治理體系和資金安排來推進AI安全。該組織還希望與現有的倡議合作,包括Partnership on AI和MLCommons。
雖然許多公司長期以來一直使用機器學習來支持搜索和社交媒體功能,但最新一代的人工智能模型讓人們看到了這些系統正在接近類似人類的智能。
全球許多國家的政府都已經誓言將攜手合作,共同應對人工智能帶來的風險。其中包括七國集團,該組織正計畫在英國舉行一個國際人工智能峰會。不過目前而言,在美國,對人工智能的掌控都是由公司自行決定。
「這項倡議是讓科技行業攜手努力,負責任地推進人工智能並應對挑戰,從而讓全人類受益的重要一步,」微軟總裁Brad Smith在聲明中表示。
原文標題AI Leaders Create Industry Watchdog as Government Scrutiny Grows
More stories like this are available on bloomberg.com
©2023 Bloomberg L.P.