AI與科技 / 評論
AI自我改進,不能只看能力、不算實驗成本
a16z發佈與MakerMaker.AI創始人的訪談摘錄,提出判斷遞歸自我改進的兩道問題:究竟是誰在優化誰,以及性能提升能否經得起成本核算。
用AI幫助人類開發更好的AI,不自動等於模型改善自己的權重、運行框架或任務提示。團隊稱會記錄所有實驗支出,並讓專人主動尋找結果中的錯誤與隨機波動。
創始人聲稱近期看到系統同時變好和變便宜的早期跡象,但這些摘錄沒有提供可復現實驗包。本報讀的是三組公開摘錄,未把整段視頻或未發表結果當成獨立驗證。
出處與繼續閱讀
edited
取材線索來自已核對關注賬號:@a16z。