產業領導者警告稱，人工智能的發展速度快於公司所能保護的速度

Anthropic 的 CISO Jason Clinton（左）和 Instacart 的 CISO David Zhou（中）在 2024 年 DataGrail 峰會上由 VentureBeat 編輯總監 Michael Nunez 主持的小組討論中討論了人工智能快速轉型的風險。

在本週舉行的 2024 年 DataGrail 高峰中，流量領先者對與人工智慧相關的快速成長的風險發​​出了嚴重警告。

Instacart 首席資訊安全長 Dave Zhou 和 Anthropic 首席資訊安全長 Jason Clinton 題為「創建對人工智能進行壓力測試的紀律——現在——為更安全的未來。」該小組由 VentureBeat 編輯總監 Michael Nunez 主持，揭示了最新一代的人工智能模型令人興奮的潛力和存在的威脅。

人工智能的指數級成長超過了安全框架

賈森·克林頓（Jason Clinton）的公司 Anthropic 是人工智能開發的最前沿，他並沒有退縮。 ，」他解釋道，並強調了艱鉅的努力。「如果我們想滑到幾年後冰球所在的位置，我們必須預測一年後的計算量增加四倍的神經網絡的計算量，而兩年幾年後計算量增加了16倍的神經網路。

柯林頓警告說，這種快速增長正在將人工智能能力推向未知領域，今天的保障措施可能很快就會過去。如此令人擔憂，」他警告說。“我們正站在指數曲線上，而指數曲線是一件非常難以規劃的事情。

人工智能的幻覺與消費者信任的風險

對 Instacart 的 Dave Zhou 來說，挑戰是在眉頭的墳墓，急了。我們知道，即使你將這些模型調整為只是以某種方式回答問題，如果你花足夠的時間提示它們、固化它們、推動它們，也可能會出現問題。

週分享了一個引人注目的例子，說明人工智能生成的內容如何導致現實世界的後果。像外星熱狗，」他說。他認為，此類錯誤可能會誇大消費者的信任，或者在更極端的情況下，造成實際傷害。「如果這個食譜可能是一個幻覺食譜，你不會想讓別人製造出可能真正傷害他們的東西。

在整個高峰會上，講者強調，在創新誘惑的推動下，人工智能技術的快速部署已經超過了關鍵安全框架的發展速度。人工智能安全系統。

周敦促企業平衡投資。警告說，如果不相應關注最大限度地降低風險，公司可能會招致災難。

為未知做好準備：人工智能的未來帶來新挑戰

柯林頓的公司一個人工智能的前沿，他讓我們看到了未來——一個需要保持警惕的未來。

「我們發現可以在神經網路中準確識別與概念相關的神經元，」他說。非常不合適的情況下也是如此。並指出了這種令人不安的意義。

柯林頓表示，這項研究指出了這些模型內部運作方式的根本不確定性——一個可能蘊藏著未知危險的黑盒子。當合適的結構不一致時，我們已經能夠識別出它們的神經結構。

隨著人工智慧係統更加深入關鍵業務流程中，災難性故障的可能性也隨之增加。這引發了「如果你對現有的模型和聊天機器人進行規劃……你將會很期待，」他說道，並敦促公司為人工智能治理的未來做好準備。

DataGrail高峰小組會議整體傳達了一個明確的訊息：人工智能革命並沒有遏制，旨在控制其安全措施，也沒有終止。可能推動未來十年人工智能創新的觀點。

當企業競相使用人工智能的力量時，他們也必須面對一個嚴峻的現實，即這種力量臨近地面的風險。力量創新的浪潮，也準備好應對未來的危險鱷魚。