當(dāng)前人工智能通用型應(yīng)用加速普及，但在行業(yè)領(lǐng)域還存在不好用、不易用、不會(huì)用等問(wèn)題。應(yīng)在通用基礎(chǔ)大模型上，結(jié)合不同銷售（銷售行業(yè)分析報(bào)告）行業(yè)應(yīng)用場(chǎng)景需求，加強(qiáng)專屬領(lǐng)域定制與深度訓(xùn)練，讓大模型成為懂行業(yè)的“能工巧匠”，促進(jìn)人工智能與產(chǎn)業(yè)真正結(jié)合。隨著人工智能技術(shù)的廣泛應(yīng)用，部分行業(yè)就業(yè)受到嚴(yán)重影響。

替代部分工作崗位是技術(shù)變革中的必然過(guò)程，有些崗位受影響，也會(huì)有新崗位出現(xiàn)。除了加強(qiáng)人工智能知識(shí)技能教育培訓(xùn)，還應(yīng)考慮制定新的社會(huì)保障政策，加強(qiáng)對(duì)受沖擊勞動(dòng)者群體的兜底保障。這是AI幻覺，指大模型有時(shí)混淆事實(shí)和虛構(gòu)，在看似是事實(shí)的句子中插入錯(cuò)誤細(xì)節(jié)。AI胡編亂造可能產(chǎn)生誤導(dǎo)，甚至?xí)l(fā)嚴(yán)重后果，特別是在醫(yī)療、金融、法律等對(duì)信息真實(shí)性和準(zhǔn)確性要求極高的領(lǐng)域。

技術(shù)暫時(shí)不成熟，我們不能因噎廢食。要加大對(duì)技術(shù)的開發(fā)和使用，推動(dòng)AI幻覺等問(wèn)題隨技術(shù)不斷進(jìn)步逐步解決。AI應(yīng)用過(guò)程中需要使用大量數(shù)據(jù)，數(shù)據(jù)安全與隱私保護(hù)備受公眾關(guān)注。多位與會(huì)嘉賓表示，現(xiàn)實(shí)中，具體應(yīng)用場(chǎng)景下哪些數(shù)據(jù)必須收集，敏感信息數(shù)據(jù)如何避免泄露等，需要進(jìn)一步明晰相關(guān)制度規(guī)則。隨著AI技術(shù)的普及，企業(yè)對(duì)數(shù)據(jù)的依賴程度日益加深，如果不采取相應(yīng)的安全措施，就可能造成數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

數(shù)據(jù)要進(jìn)行脫敏或加密處理，增強(qiáng)傳輸和存儲(chǔ)過(guò)程中的安全性。AI技術(shù)的濫用誤用是顯著風(fēng)險(xiǎn)之一。有統(tǒng)計(jì)顯AI時(shí)代到來(lái)，要堅(jiān)持應(yīng)用與治理平衡、創(chuàng)新與監(jiān)管并重、全球化與本土化協(xié)同，防止數(shù)字鴻溝變成智能鴻溝，讓AI真正成為推動(dòng)社會(huì)進(jìn)步的普惠力量。示，2024年全球發(fā)生的AI風(fēng)險(xiǎn)事件，超過(guò)30%與利用AI進(jìn)行深度偽造相關(guān)。深度偽造名人形象、聲音進(jìn)行虛假宣傳甚至詐騙不時(shí)見諸報(bào)端。高質(zhì)量數(shù)據(jù)是AI應(yīng)用大規(guī)模落地的重要支撐，構(gòu)建一個(gè)完善而成熟的數(shù)據(jù)市場(chǎng)也十分重要。應(yīng)根據(jù)實(shí)際情況，建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。