最新网址:www.lwshuku.info
李东礼貌的把筷子放了下来。“邱总您好,我是高老师的学生,李东。”
邱明丽愣了一下。
然後就有些惊喜的说道。
“你就是李东?”
“那个降维算法的李东?”
“我的天,你这也太年轻了吧。”
旁边几个原本没对上号的,听见“降维算法”这四个字,也反应了过来,纷纷看向李东。
李东被这麽多双眼睛盯着,多少有点不自在。
“邱总过奖了,我就是个大学生。”
“我就瞎搞的。”
李总在旁边哈哈大笑。
“瞎搞?你这要是瞎搞,那我们这帮人全都白干了。”
桌上一片善意的笑声。
笑声落下之後,邱明丽率先说道。
“李东啊,我特别想听听你的看法。”
“你看刚才咱们聊的,算力、数据……这些东西”
“那你心里对‘怎麽追上去’这件事,有没有什麽想法?”
说实话在座的人是真的想听,毕竟李东算法的去向他们不知道,不知道本身就很说明问题了。
所以他们对李东是特别的好奇的。
李东沉默了几秒锺。
老实讲,他心里其实并没有什麽完整的能拿出来讲的想法。
他只是……
只是想到了牛顿的小黑。
那玩意儿,怎麽看都不像是用现在这一套大语言模型的路子搞出来的。
他斟酌了一下措辞,慢慢开口。
“我没什麽很专业的看法。”
“就是有个特别外行的问题,大家别笑我哈。”
桌上的人都笑着说不会的。
李东这才继续说道。
“为什麽……人工智能就一定要按照现在这种路子做呢?”
“我说的是,为什麽不能更接近人脑真正的工作方式?”
“你看,人脑大概有八百多亿个神经元,每天大概就消耗二十瓦的功率。”
“但它能听、能看、能想、能学、能在一秒锺之内认出一张脸,还能在两年之内学会一门语言。”
“而我们现在最先进的大模型……”
“训练一次要烧几千万度电,推理一次也得调动一整个机房的卡。”
“在做某些事情的时候还不如一个三岁小孩。”
“差距在哪儿?”
“我觉得不是在算力上,是在……根本路子上。”
说实话AI这块李东确实不太懂,所以就是吧自己的想法说出来。
桌上的人没有一个出声的。
他们就那样静静地听着。
李东顿了一下,继续往下讲。
“我前一阵子翻文献的时候看到过一个方向,叫脉冲神经网络。”
“它的思路就是不用现在这种连续值的激活函数,而是模仿人脑里神经元放电的方式。”
“只有放和不放两种状态,平时不工作,只有信号攒到一定程度才发一个脉冲。”
“理论上这种网络的能效比要比现在的ANN高几个量级。”
“还有更激进一点的,叫神经形态计算,干脆把芯片本身就做成模拟神经元的结构。”
“IBM的TrueNorth、英特尔的Loihi,都是这条路上的嚐试。”
“我就在想……”
“是不是有一天,我们真的能造出一个不用一万张A100,而是用一颗类脑芯片,就能完成同样事情的东西?”
李东说完,桌上一片安静。
倒不是说大家被震惊到了,而是……
“哦,原来你也只是个会做白日梦的小孩”
李总最先反应过来。
他脸上的笑容有点复杂,但看得出来,是真心想跟李东讲点东西。
“李东啊。”
“你这个想法,其实在学术圈不算新。”
“不光不新,可以说是非常老了。”
“早在上世纪八十年代,就有人提了。”
李东点了点头。
李总继续说。
“但是这条路为什麽这麽多年了都没起来?”
“因为它太难了。”
他放下杯子,两只手一摊。
“我们对人脑本身的了解,远远没有外行想象的那麽多。”
“目前为止,全世界唯一一个被完整测出来的连接组。”
“是秀丽隐杆线虫。”
“它一共就三百零二个神经元。”
“光是这三百零二个神经元的连接图,科学家整整测了三十年。”
“果蝇的连接组前两年才刚刚做完一部分,而一只老鼠脑子里大概七千万个神经元,目前连零头都没测完。”
“人脑?八百亿个神经元,每个神经元平均连一万个突触。”
“我们离把它彻底搞清楚,还差着十万八千里。”
李总看着李东说道。
“就算我们了解了大脑,我们也没法在矽基芯片上
高效地复现它。”
“人脑的神经元和我们的芯片。”
“是两套完全不同的逻辑。”
“你硬要在GPU上模拟一个脉冲神经网络,效率比直接跑ANN还低。”
“这就是为什麽SNN吹了这麽多年,到现在主流的AI公司也没真的allin的原因。”
“它现在能做的任务规模,比ANN差得很远。”
李总叹了口气继续说道。
“还有,我们没有成熟的训练方法。”
“ANN为什麽这十年突飞猛进?因为我们有反向传播。”
“反向传播这个东西在数学上是很高效的。”
“但人脑里有反向传播吗?没有。”
“那SNN要怎麽训练?目前学术界还没有一个公认的、和反向传播一样好用的方法。”
“很多团队在试,但都还没试出来。”
李总把手放下,端起杯子。
“所以李东啊。”
“你这个方向,理论上当然是对的。”
“长远来看,类脑计算很可能就是未来。”
“但是……”
他还是强调了一下。
“在可见的五年、十年之内,能落地、能赚钱、能让中国的AI追上世界第一梯队的,只能是现在这条transformer的大模型路子。”
“不是因为它最好。”
“是因为它最现实。”
李总说完,桌上的几个人都纷纷点头。
显然这是行业内已经形成的共识。
李东没说话。
但心里有一个声音,在很坚定地反驳。
不可能?
我亲眼“见过”有人做出来啊。
那就是牛顿的“小黑”。
既然有人能在那个时代、把它做出来。
那就说明,这条路是走得通的。
至於眼前这些困难……
对大脑的理解也好,硬件的底层逻辑也好,训练方法也好……
一步一步克服就是了。
最新网址:www.lwshuku.info