網頁設計
Anthropic 的 CISO Jason Clinton(左)和 Instacart 的 CISO David Zhou(中)在 2024 年 DataGrail 峰會上由 VentureBeat 編輯總監 Michael Nunez 主持的小組討論中討論了人工智能快速轉型的風險。
加入我們的每日和每週通訊,以了解相關行業領先的人工智能報道的最新更新和獨家內容。
在本週舉行的 2024 年 DataGrail 高峰中,流量領先者對與人工智慧相關的快速成長的風險發出了嚴重警告。
Instacart 首席資訊安全長 Dave Zhou 和 Anthropic 首席資訊安全長 Jason Clinton 題為「創建對人工智能進行壓力測試的紀律——現在——為更安全的未來。」該小組由 VentureBeat 編輯總監 Michael Nunez 主持,揭示了最新一代的人工智能模型令人興奮的潛力和存在的威脅。
人工智能的指數級成長超過了安全框架
賈森·克林頓(Jason Clinton)的公司 Anthropic 是人工智能開發的最前沿,他並沒有退縮。 ,」他解釋道,並強調了艱鉅的努力。「如果我們想滑到幾年後冰球所在的位置,我們必須預測一年後的計算量增加四倍的神經網絡的計算量,而兩年幾年後計算量增加了16倍的神經網路。
柯林頓警告說,這種快速增長正在將人工智能能力推向未知領域,今天的保障措施可能很快就會過去。如此令人擔憂,」他警告說。“我們正站在指數曲線上,而指數曲線是一件非常難以規劃的事情。
人工智能的幻覺與消費者信任的風險
對 Instacart 的 Dave Zhou 來說,挑戰是在眉頭的墳墓,急了。我們知道,即使你將這些模型調整為只是以某種方式回答問題,如果你花足夠的時間提示它們、固化它們、推動它們,也可能會出現問題。
週分享了一個引人注目的例子,說明人工智能生成的內容如何導致現實世界的後果。像外星熱狗,」他說。他認為,此類錯誤可能會誇大消費者的信任,或者在更極端的情況下,造成實際傷害。「如果這個食譜可能是一個幻覺食譜,你不會想讓別人製造出可能真正傷害他們的東西。
在整個高峰會上,講者強調,在創新誘惑的推動下,人工智能技術的快速部署已經超過了關鍵安全框架的發展速度。人工智能安全系統。
周敦促企業平衡投資。警告說,如果不相應關注最大限度地降低風險,公司可能會招致災難。
為未知做好準備:人工智能的未來帶來新挑戰
柯林頓的公司一個人工智能的前沿,他讓我們看到了未來——一個需要保持警惕的未來。
「我們發現可以在神經網路中準確識別與概念相關的神經元,」他說。非常不合適的情況下也是如此。並指出了這種令人不安的意義。
柯林頓表示,這項研究指出了這些模型內部運作方式的根本不確定性——一個可能蘊藏著未知危險的黑盒子。當合適的結構不一致時,我們已經能夠識別出它們的神經結構。
隨著人工智慧係統更加深入關鍵業務流程中,災難性故障的可能性也隨之增加。這引發了「如果你對現有的模型和聊天機器人進行規劃……你將會很期待,」他說道,並敦促公司為人工智能治理的未來做好準備。
DataGrail高峰小組會議整體傳達了一個明確的訊息:人工智能革命並沒有遏制,旨在控制其安全措施,也沒有終止。可能推動未來十年人工智能創新的觀點。
當企業競相使用人工智能的力量時,他們也必須面對一個嚴峻的現實,即這種力量臨近地面的風險。力量創新的浪潮,也準備好應對未來的危險鱷魚。
VB日報
了解保留!
訂閱即表示您同意 VentureBeat 的服務條款。
感謝您的訂閱。
發生錯誤。