網路行銷
人工智能的經濟效益必須發揮作用
芯片製造商
系統檢視者
資料中心營運商
應用程式檢視者
付費客戶(最終用戶)。
擴大的大型語言模型為400 GB或更多,專家混合模型為1.8 TB。
TechTechPotato 採訪了 AyarLabs,並闡述了小晶片之間需要光學連接以經濟實惠的架構將內存、計算和連接性擴展至 100 倍至 1000 倍的情況
記憶體頻率寬度和記憶體容量現在是一切。
網路通訊層太慢。
動力電源需求不斷增加。
通訊結構可以讓8路ASIC GPU設計互動通信,但需要在2026年劃分1024路ASIC GPU互動通信。
00:00 – 誰在賺錢
01:31 – 人工智慧經濟學
04:20 – 人工智慧公司的基調轉變
06:39 – 轉向代理工作流程(更多的代理系列llm意味著3個代理使計算和記憶體需求增加三倍)
08:35 – 目前的結構太慢
11:27 – 需要改變什麼
13:50 – 未來會考慮子
18:18 – 更多經濟學
21:40 – 未來的資料中心將走向何方?
24:03 – 光學系統的優點
26:09 – 總結
27:50 – 最低規格
Brian Wang是未來主義思想領袖和受歡迎的科學博客,每月擁有100萬讀者。 ,包括太空、機器人、人工智慧、醫學、抗衰老生物技術和納米技術。
他以識別尖端技術而聞名,目前是一家新創公司的聯合創始人,並為高潛力的公司早期募集資金。
他經常在企業發表演講,曾擔任TEDx演講者、奇點大學演講者,並擔任許多電台和播客採訪的主持人。