專題：2024亞布力企業(yè)家第二十屆夏季年會

　　新浪科技訊 8月31日下午消息，2024亞布力企業(yè)家第二十屆夏季年會在廣州舉行。論壇期間，在東方甄選直播間，新東方教育科技集團(tuán)董事長俞敏洪與多位企業(yè)家對話。360集團(tuán)創(chuàng)始人、董事長周鴻祎在直播間談到國內(nèi)人工智能發(fā)展面臨的主要挑戰(zhàn)。

　　周鴻祎表示，有一個挑戰(zhàn)是對錯誤，對創(chuàng)新的寬容、理解和和包容。他表示，人工智能一定會出錯，但不知道它在什么情況下會莫名其妙的出錯。

　　“所以這里面有兩種可能，一種是大模型自身會產(chǎn)生幻覺，”他認(rèn)為，幻覺是大模型真正有智力的一種體現(xiàn)，這是它先天決定的。

　　周鴻祎表示，也研究了對付幻覺的方法，比如說用知識對齊，也就是當(dāng)大模型產(chǎn)生內(nèi)容之后，去找內(nèi)容來做對標(biāo)，但這里面又會有一個陷阱，就是曾幾何時我們都認(rèn)為網(wǎng)上的內(nèi)容都是對的，只要是印成印刷體的內(nèi)容都是對的，所以用搜索引擎來做對齊，但現(xiàn)在發(fā)現(xiàn)網(wǎng)上也有很多內(nèi)容被污染了或者被“投毒”了。

　　“比如，如果網(wǎng)上貼了很多關(guān)于俞老師的負(fù)面，完全是無中生有，但這個帖子又沒被刪掉，就會被當(dāng)成事實，進(jìn)入事實庫之后，可能大模型就開始亂說俞老師的壞話。”他還談到，Google最近也犯了這樣的錯誤，有人在Google里問怎么吃石頭，Google就認(rèn)真回答說吃石頭要磨細(xì)了吃，咽不下的時候還用水來送服，石頭有很豐富的營養(yǎng)，就成為一個丑聞。原來谷歌是從一個社區(qū)論壇抓取的內(nèi)容，那里有人惡搞，模擬科普文章，寫了如何吃石頭，然后就被谷歌抓取了，谷歌就認(rèn)為這個文章都是對的。

　　周鴻祎指出，以后在網(wǎng)上還需要解決的問題是用大模型來判斷內(nèi)容到底對不對，但前提是要有一些對的內(nèi)容，那就需要人工篩選一些內(nèi)容。

　　他認(rèn)為，未來隨著大模型用的越來越多之后，一定會在回答某些問題的時候可能口出亂言，碰到這種情況，建議用戶還是寬容一點，發(fā)現(xiàn)漏洞可以主動通知對方去修正，而不是大肆渲染，變成巨大的事件。

　　新浪聲明：所有會議實錄均為現(xiàn)場速記整理，未經(jīng)演講者審閱，新浪網(wǎng)登載此文出于傳遞更多信息之目的，并不意味著贊同其觀點或證實其描述。