空槽蓋 IC693MDL655 編程簡單易學

空槽蓋 IC693MDL655  編程簡單易學

空槽蓋 IC693MDL655  編程簡單易學

AI安全：新風口？

值得關注的是，自成立起，Anthropic的愿景就是成為一家聚焦于AI安全研究的公司，希望開發出可控、可解釋的人工智能系統。在AI安全上，Anthropic別開生面，首創了“憲法 AI”的概念體系，強調在人工智能系統中實現價值觀對齊。據悉，Anthropic創始人達里奧·阿莫迪與一干同事在OpenAI就職期間，因為對OpenAI處理技術倫理與安全的方式持有懷疑，才決定離職并創立Anthropic。

此前，達里奧·阿莫迪曾表示，他寧愿Claude（Anthropic研發的生成式人工智能助手）無聊一些，也不希望它變得危險。

這一理念與亞馬遜不謀而合。亞馬遜云科技大中華區解決方案架構部總監代聞在日前舉辦的亞馬遜云科技re:Inforce2023中國站上表示，生成式AI應用就像是海面上的冰山，安全地駕馭這項新技術，還需要關注海面下的冰川。安全是構建生成式AI不可回避的重要議題，企業只有在AI旅程中做好數據、模型和應用的安全防護，才能更好地借助AI加速業務創新。

實際上，亞馬遜云科技很早就提出“洋蔥型”的安全防護模型，將安全防護分為多個層次，每個層次都有不同的安全策略和控制措施。“安全始終是亞馬遜云科技的首要任務，是我們的首要優先級。”代聞表示。

大模型興起后，“AI Safety”（AI 安全）這一方向吸引到眾多的關注與討論。圖靈獎獲得者、深度學習三巨頭之一Yoshua Bengio的研究團隊近日在Nature上刊發的論文中提到，人工智能系統可以成為科學家發現新知識的重要助手，但也存在潛在的安全隱患。例如，科學數據存在不完整、偏差等問題，需要規范化；還需要考慮數據的可訪問性、隱私等。模型和數據的標準化也很必要。

麻省理工學院（MIT）教授、生命未來研究所的創始人兼總裁馬克斯?泰格馬克（Max Tegmark）也表示，在與人工智能研究人員和科技公司CEO的交談中，很明顯人們對人工智能帶來的風險普遍感到非常焦慮。

在2023外灘大會上，世界國際產業組織“云安全聯盟”（CSA）大中華區宣布成立“AI安全工作組”，中國電信、螞蟻集團、華為、百度、火山引擎、西安電子科技大學、國家金融測評中心等30余家機構成為首批發起單位。該組織致力于共同解決AI技術快速發展所帶來的安全難題。

可以看到，AI安全似乎正在成為人工智能領域的一個新風口。亞馬遜在此時“上車”，能否掀起新一輪人工智能高潮，讓我們拭目以待。

空槽蓋 IC693MDL655  編程簡單易學