中国工程院院士邬江兴:90%以上主流大模型不可信!实用前景堪忧

5月20日消息,自从ChatGPT爆火以来,全球诞生了无数的大模型,光国内就有上百种,但实用性却并不如意。

在今天下午的2024搜狐科技年度论坛上,中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长邬江兴指出,他们团队对当前最流行的10种大模型进行安全分析发现,90%以上的主流大模型是不可信的。

邬江兴表示,深度学习模型存在三不可基因缺陷。

分别是:

第一,不可解释性。

从数据提供AI模型训练到知识规律,到获得应用推理阶段,工作原理到现在不明确,问题发现定位非常困难,AI系统中的安全问题比破解密码还要难。

中国工程院院士邬江兴:90%以上主流大模型不可信!实用前景堪忧

第二,不可判识性。

因为AI对序列性强依赖,不具备对内容的判识能力,所以数据存在质量差异,来源差异,就可能导致训练出的结果有差异。

第三,不可推论性。

AI的推理是从已知数据中获得规律性,难以胜任对中长期未来事物变迁的预测和推理,只是把现有的东西归纳起来,看起来它聪明无比,但仅仅是比我看得多,并没有产生什么新的认知。

以上就是关于【中国工程院院士邬江兴:90%以上主流大模型不可信!实用前景堪忧】的相关消息了,希望对大家有所帮助!

原创文章,作者:yajje,如若转载,请注明出处:https://www.yajje.com/baike/811.html

(0)
yajje的头像yajje
上一篇 2024年5月20日 下午6:30
下一篇 2024年5月20日 下午6:30

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

PS:如果遇到您遇到有关于百科类创建编辑修改的相关疑难问题,欢迎留言咨询,百科优化网yajje及时为您无偿免费解答。