防濫用AI 美等18國簽國際協定
|
读新闻
【編譯茅毅／綜合報導】美國等18國26日簽署一項攸關人工智慧(AI)的國際協定。國安部網路安全與基礎設施安全局(CISA)局長伊斯特利表示，這是國際間首份詳載如何確保AI不致遭不肖之徒入侵，並推動企業創建「設計安全」AI系統的協定。 路透報導，該協定共20頁，英國、德國、義大利、新加坡、捷克、愛沙尼亞、波蘭、澳洲、智利、以色列及奈及利亞等18國同意，設計和應用AI的公司，有必要以確保顧客及社會大眾免於AI濫用威脅的方式，發展與運用這項科技。 該協定雖不具拘束力，內容大多屬一般性建議，像監督AI系統是否遭濫用、保護資料數據不致遭竄改，還有審查軟體供應商。但伊斯特利認為，重要的是有這麼多國簽署，認同AI系統需將安全置於首位的看法。 伊斯特利說，「這是我們首次確認，AI的這些能力不應該只是酷炫的特色，以及我們多快能在市場推出這些能力，或我們能如何競爭，以降低成本」。 該協定是各國政府在形塑AI發展上，提出的一連串倡議中最新一項，儘管這些倡議具實際力量者少之又少，而不管是產業及整個社會，AI的影響力正愈來愈有感。該協定的架構處理怎樣防止AI技術遭駭客把持的若干問題，並包括諸如唯有在經過適當安全檢測後，才能夠公布AI模型之類的建議。 但該協定並未觸及一些棘手問題，像如何適當應用AI、或如何蒐集輸入AI模型的資料數據。針對AI相關規範，歐洲的腳步比美國快，歐洲的國會議員正研擬規定，法德義最近亦達成一項應如何規範AI的協定，並支持透過行為準則，強制自我規範生成式AI的一種形式：AI基礎模型。 |
原文网址: h t t p : / / w w w . u d n b k k . c o m / a r t i c l e - 3 5 3 8 1 7 - 1 . h t m l
