在使用AI工具時，你是否發(fā)現(xiàn)這個問題揮之不去——AI幻覺，一種“看似真實、實則虛構(gòu)”的內(nèi)容生成現(xiàn)象，正滲透進(jìn)我們的生活。（4月1日中新網(wǎng)）

虛構(gòu)事實，語焉不詳，在邏輯上自相矛盾，并夾雜無意義的內(nèi)容……這些問題的出現(xiàn)，讓人不由得對AI的未來生出一絲隱憂。在醫(yī)療領(lǐng)域，使醫(yī)學(xué)檢查更敏銳的AI也會加重患者的焦慮，引發(fā)新的“過度診療”?！癆I幫你一分鐘搞定問診開藥”在有的地方已被叫停。在法律領(lǐng)域，律師因輕信AI助手而援引未發(fā)生的判例，最終遭受司法處罰。種種指鹿為馬、無中生有、以訛傳訛，無疑給那些對AI產(chǎn)生依賴癥的人敲響了警鐘。畢竟，幻覺可能是一種病態(tài)表現(xiàn)，時間長了會誘發(fā)知覺障礙，甚至侵蝕人與人之間的信任。

AI幻覺只是禍患？答案卻不盡然。在游戲開發(fā)、動漫設(shè)計、小說創(chuàng)作等領(lǐng)域，不合常理的AI幻覺閃現(xiàn)著奇思妙想的光華，可以充當(dāng)創(chuàng)作者的靈感之源。對其一棒子打死的判斷，未免簡單化了。但無可否認(rèn)的是，AI并非無所不能。它更像是一個泡在語料海洋中的學(xué)習(xí)者，而不是擅長深度推理的智者。

實際上，AI幻覺的存在再次印證了科技的雙刃劍屬性。反復(fù)拷問之下，一條原則清晰可見：對待AI應(yīng)用創(chuàng)新，既要鋪設(shè)“快車道”，又要安好“緩沖帶”。對AI幻覺導(dǎo)致的信息污染，須保持警惕；對AI的能力短板，要給予充分考量。同時，要包容和鼓勵創(chuàng)新，在動態(tài)平衡中尋求治理的最優(yōu)解。

時下，AI幻覺正變得越來越復(fù)雜和隱蔽，怎么治呢？

不妨分類施策。在低容錯率領(lǐng)域，如醫(yī)療、法律、金融領(lǐng)域，要強(qiáng)制激活“嚴(yán)謹(jǐn)模式”。譬如，強(qiáng)制調(diào)用權(quán)威知識庫，創(chuàng)建白名單知識庫，確保信息的準(zhǔn)確與可靠。反之，則可以允許AI“大開腦洞”。監(jiān)管部門要善用“生成即標(biāo)注”的強(qiáng)制性規(guī)則，幫助公眾迅速有效地識破AI幻覺。

用AI治理AI。搜索引擎平臺要把AI技術(shù)與人工審核結(jié)合起來，掌握給AI做“腦部掃描”的技術(shù)，為生成式內(nèi)容祛“毒”。譬如，健全溯源審查機(jī)制，建立強(qiáng)有力的防火墻，對信息實施實時監(jiān)控、分類和過濾，確保更高質(zhì)量、更潔凈的數(shù)據(jù)供給。

學(xué)會揚(yáng)長避短。身處智能時代，每個人對AI要保持清醒，學(xué)會在人機(jī)協(xié)作中發(fā)揮好人自身的優(yōu)勢。譬如，掌握優(yōu)化提問、驗證信源、培訓(xùn)AI的工作方法，使自己成為人機(jī)協(xié)作的主導(dǎo)者。

(編輯： 吳嘉祺)