包括亞馬遜、Anthropic、Inflection、Meta、OpenAI、Alphabet以及微軟。

為了充分發揮人工智能的潛力，拜登政府鼓勵該行業堅持最高標準，以確保創新不會以犧牲美國人的權利和安全為代價，抓住 AI 帶來的巨大前景并管理其帶來的風險，開發這些新興技術的公司有責任確保其產品的安全。

這 7 家公司選擇做出的承諾強調了人工智能未來的三個基本原則：安全、保障和信任，標志著朝著開發負責任的人工智能邁出了關鍵一步。承諾內容包括：

在向公眾推出產品之前確保其安全

• 兩家公司承諾在發布人工智能系統之前對其進行內部和外部安全測試。 這項測試將部分由獨立專家進行，旨在防范一些最重要的人工智能風險來源，例如生物安全和網絡安全及其更廣泛的社會影響。

• 這些公司致力于在整個行業以及與政府、民間社會和學術界分享有關管理人工智能風險的信息。 這包括最佳安全實踐、有關試圖規避保障措施的信息以及技術合作。

構建將安全放在首位的系統

• 兩家公司承諾投資網絡安全和內部威脅防護措施，以保護專有和未發布的模型權重。 這些模型權重是人工智能系統最重要的部分，公司一致認為，僅在有意且考慮到安全風險時才發布模型權重，這一點至關重要。

• 兩家公司致力于促進第三方發現和報告其人工智能系統中的漏洞。 即使人工智能系統發布后，一些問題可能仍然存在，而強大的報告機制可以使問題快速發現并修復。

贏得公眾的信任

• 兩家公司致力于開發強大的技術機制，以確保用戶知道內容何時由人工智能生成，例如水印系統。 這一行動使人工智能的創造力得以蓬勃發展，同時減少了欺詐和欺騙的危險。

• 兩家公司承諾公開報告其人工智能系統的功能、局限性以及適當和不適當使用的領域。 該報告將涵蓋安全風險和社會風險，例如對公平和偏見的影響。

• 兩家公司承諾優先研究人工智能系統可能帶來的社會風險，包括避免有害的偏見和歧視以及保護隱私。 人工智能的歷史記錄顯示了這些危險的陰險性和普遍性，這些公司承諾推出人工智能來減輕這些危險。

• 兩家公司致力于開發和部署先進的人工智能系統，以幫助解決社會面臨的最大挑戰。 從癌癥預防到緩解氣候變化，以及介于兩者之間的許多事情，如果管理得當，人工智能可以為所有人的繁榮、平等和安全做出巨大貢獻。