时代焦点网 - 专业财经新闻门户
当前位置: 时代焦点网 -> 财经

前谷歌研究人员创立SakanaAI,专注于为基础模型创建新架构

发布时间:2023-08-21 11:55   来源:IT之家   阅读量:6919   

,据路透社报道,两位著名的前谷歌研究人员 David Ha 和 Llion Jones 启动一项研究总部位于东京的新人工智能公司,创立了 Sakana AI。

IT之家从报道中获悉,Jones 是 Google 2017 年研究论文《Attention Is All You Need》的第五位作者,该论文介绍了“transformer”深度学习架构,该架构后来成为聊天机器人 ChatGPT 和当前由生成式 AI 驱动的产品开发竞赛的基础。Ha 此前曾担任 Stability AI 的研究主管和 Google Brain 研究员。

Jones 表示,Sakana AI 将专注于为基础模型创建新架构。“我们的方法不是构建一个吸收所有数据的巨大模型,而是使用大量较小的模型,每个模型都有自己独特的优势和较小的数据集,并让这些模型相互通信和协作来解决问题。”Ha 解释道。

两位联合创始人表示,Sakana 这个名字源自日语单词“さかな”,意为“鱼”,旨在唤起“一群鱼聚集在一起,通过简单的规则形成一个连贯的实体”的想法。

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。