AI与科技 / 评论
AI自我改进,不能只看能力、不算实验成本
a16z发布与MakerMaker.AI创始人的访谈摘录,提出判断递归自我改进的两道问题:究竟是谁在优化谁,以及性能提升能否经得起成本核算。
用AI帮助人类开发更好的AI,不自动等于模型改善自己的权重、运行框架或任务提示。团队称会记录所有实验支出,并让专人主动寻找结果中的错误与随机波动。
创始人声称近期看到系统同时变好和变便宜的早期迹象,但这些摘录没有提供可复现实验包。本报读的是三组公开摘录,未把整段视频或未发表结果当成独立验证。
出处与继续阅读
edited
取材线索来自已核对关注账号:@a16z。