7月25日下午，上海市委網(wǎng)信辦“清朗e企來”系列惠企沙龍2024年首場活動在徐匯區(qū)舉行。活動聚焦“AIGC時代的信息真相：識別與應(yīng)對價值觀偏見”主題，探討交流AIGC時代信息安全建設(shè)有效路徑。

沙龍現(xiàn)場提出，要始終堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，鼓勵與引導(dǎo)生成式人工智能技術(shù)發(fā)展。

日前，二十屆三中全會通過的《決定》明確提出“完善生成式人工智能發(fā)展和管理機制”。隨著生成式人工智能的快速發(fā)展，AIGC內(nèi)容價值觀偏見風(fēng)險愈加凸顯。沙龍現(xiàn)場提出，要始終堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，鼓勵與引導(dǎo)生成式人工智能技術(shù)朝著更加公正、符合倫理的方向創(chuàng)新發(fā)展。大模型企業(yè)和網(wǎng)絡(luò)平臺要主動承擔社會責(zé)任，遵守法律法規(guī)，尊重社會公德、公序良俗，明確對AI生成內(nèi)容采取有效措施確保合法合規(guī)。對于違法違規(guī)行為，監(jiān)管部門要依法履職、嚴厲打擊，著力維護信息內(nèi)容生態(tài)健康與網(wǎng)絡(luò)秩序和諧。

來自國家互聯(lián)網(wǎng)應(yīng)急中心上海分中心、百度公司、開普云的嘉賓從各自領(lǐng)域做了觀點分享。國家互聯(lián)網(wǎng)應(yīng)急中心上海分中心介紹了生成式人工智能對網(wǎng)絡(luò)內(nèi)容建設(shè)產(chǎn)生的深遠影響，以及如何構(gòu)建全方位人工智能安全治理體系等內(nèi)容；百度公司圍繞大模型內(nèi)容安全治理面臨的新問題新挑戰(zhàn)，分享了安全對齊、安全圍欄建設(shè)的實踐經(jīng)驗；開普云全面分析了大模型價值觀偏見的隱患點，提出加強算法研究優(yōu)化、做好用戶教育引導(dǎo)、增強合作共建等應(yīng)對措施。與會人員與嘉賓積極互動交流，進一步加深了對AIGC的認識和理解。

本期“清朗e企來”惠企沙龍活動由上海市委網(wǎng)信辦主辦，徐匯區(qū)委網(wǎng)信辦、上海大模型生態(tài)有限公司共同承辦。市網(wǎng)絡(luò)協(xié)同治理聯(lián)動機制成員單位以及各區(qū)網(wǎng)信辦負責(zé)人，稀宇科技、商湯科技、蜜度科技、小紅書、嗶哩嗶哩等屬地主要互聯(lián)網(wǎng)企業(yè)代表參與活動。

據(jù)了解，今年上海市委網(wǎng)信辦在“清朗浦江”專項治理行動基礎(chǔ)上，升級“清朗e企來”惠企品牌，聚焦屬地互聯(lián)網(wǎng)企業(yè)“急難愁盼”問題，重點打造“五大服務(wù)包”