- 當(dāng)前位置：首頁 > 焦點(diǎn) > 辦深第二象行動(dòng)中央展·整治A專項(xiàng)網(wǎng)信入開清朗工作I應(yīng)用亂階段
辦深第二象行動(dòng)中央展·整治A專項(xiàng)網(wǎng)信入開清朗工作I應(yīng)用亂階段
發(fā)布時(shí)間：2026-10-16 10:27:54 來源：kiss電子煙購買 6677599 作者：探索
近期，中央展清治中央網(wǎng)信辦組織開展“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)第二階段工作，網(wǎng)信聚焦利用AI製作發(fā)布虛假信息、辦深傳播暴力低俗內(nèi)容、入開假冒仿冒他人、朗整侵害未成年人權(quán)益等突出問題，應(yīng)用亂部署各地網(wǎng)信部門深入推進(jìn)重點(diǎn)整治任務(wù)，象專項(xiàng)行督促網(wǎng)站平臺(tái)集中清理AI生成各類違法不良信息，動(dòng)第依法查處違規(guī)賬號和移動(dòng)應(yīng)用程序，階段有效遏製AI生成合成信息內(nèi)容亂象，工作推動(dòng)AI應(yīng)用服務(wù)健康有序發(fā)展。中央展清治截至目前，網(wǎng)信累計(jì)清理違法違規(guī)信息561萬餘條，辦深查處賬號4.9萬餘個(gè)，入開處置違規(guī)網(wǎng)站、朗整應(yīng)用程序等2400餘個(gè)。
專項(xiàng)行動(dòng)開展以來，各地網(wǎng)信部門切實(shí)履行屬地監(jiān)管責(zé)任，因地製宜推出一係列針對性治理措施。北京網(wǎng)信辦指導(dǎo)網(wǎng)站平臺(tái)全麵升級審核策略，持續(xù)提升違規(guī)內(nèi)容新型變體識(shí)別處置能力。上海網(wǎng)信辦督促平臺(tái)深入開展自查自糾，加大違法違規(guī)信息和賬號查處力度，推出AI應(yīng)用“知識(shí)普及包”引導(dǎo)公眾識(shí)別問題風(fēng)險(xiǎn)。浙江網(wǎng)信辦對屬地重點(diǎn)平臺(tái)開展“一企一策”問診進(jìn)行合規(guī)指導(dǎo)，督促完善內(nèi)控體係，依法查處一批問題突出的AI應(yīng)用軟件。廣東網(wǎng)信辦召開重點(diǎn)網(wǎng)站平臺(tái)工作例會(huì)，對多款應(yīng)用違規(guī)問題開展點(diǎn)對點(diǎn)督促整改，確保專項(xiàng)行動(dòng)取得實(shí)效。
網(wǎng)站平臺(tái)積極響應(yīng)專項(xiàng)行動(dòng)部署安排，持續(xù)健全AI內(nèi)容常態(tài)化治理機(jī)製。抖音、快手、微博、騰訊、百度、嗶哩嗶哩、小紅書、知乎、豆瓣、淘寶等平臺(tái)進(jìn)一步強(qiáng)化技術(shù)賦能，優(yōu)化多模態(tài)識(shí)別模型，動(dòng)態(tài)擴(kuò)充人臉庫、聲紋庫和違規(guī)樣本庫，上線人臉實(shí)時(shí)治理係統(tǒng)等功能措施，提升違規(guī)內(nèi)容智能檢測和攔截效率，加大對違規(guī)賬號、信息處置力度，暢通線索舉報(bào)渠道，累計(jì)發(fā)布各類治理公告46期。豆包、元寶、千問、文心一言等平臺(tái)嚴(yán)把原始語料內(nèi)容審核關(guān)，嚴(yán)格限製違規(guī)內(nèi)容輸出，強(qiáng)化AI生成合成內(nèi)容標(biāo)識(shí)要求落地，從源頭防範(fàn)違法違規(guī)信息生成傳播。華為、小米、OPPO、vivo等應(yīng)用商店製定嚴(yán)格的APP開發(fā)者準(zhǔn)入規(guī)範(fàn)和上架要求，對在架APP進(jìn)行抽檢複測，有效攔截違規(guī)應(yīng)用入庫。
專項(xiàng)行動(dòng)期間，一批違法違規(guī)賬號和應(yīng)用受到處理。為進(jìn)一步加強(qiáng)警示教育，現(xiàn)將部分典型案例通報(bào)如下：
1.利用AI“魔改”經(jīng)典、生成“數(shù)字泔水”。微博賬號“天**小”、抖音賬號“歪**國”、快手賬號“小*菌”、微信賬號“鹹*i”等，濫用AI技術(shù)“魔改”《三國演義》《西遊記》等經(jīng)典名著，顛覆重要人物人設(shè)，虛構(gòu)低質(zhì)獵奇劇情博取流量。相關(guān)賬號已被依法依約處置。
2.AI製作發(fā)布虛假不實(shí)信息。快手賬號“雲(yún)**視”、小紅書賬號“有*頭”、抖音賬號“7**員”、微信賬號“長**帆”等，利用AI生成合成虛假災(zāi)害現(xiàn)場、救援畫麵，編造不實(shí)社會(huì)熱點(diǎn)信息，發(fā)布封建迷信內(nèi)容，打造AI數(shù)字人進(jìn)行虛假宣傳帶貨，誤導(dǎo)老年人，製造恐慌情緒。相關(guān)賬號已被依法依約處置。
3.AI假冒仿冒他人。抖音賬號“特**力”、快手賬號“石*”、小紅書賬號“潮**件”、微信賬號“M**勒”等，利用AI“換臉”“換聲”等技術(shù)，假冒仿冒公眾人物形象，生成合成低俗舞蹈、擁抱接吻等圖片視頻，借機(jī)營銷牟利。相關(guān)賬號已被依法依約處置。
4.製作發(fā)布暴力低俗等信息。嗶哩嗶哩賬號“帶**著”、抖音賬號“波**C”、快手賬號“蝦**詭”、微信賬號“星**7”等，批量發(fā)布AI生成合成的含有恐怖詭異、暴力低俗等畫麵內(nèi)容。相關(guān)賬號已被依法依約處置。
5.AI侵害未成年人權(quán)益。小紅書賬號“小**娃”、微信賬號“豆*a”、抖音賬號“半**曆”、快手賬號“若**雪”等，發(fā)布AI生成合成未成年人懷孕、打架等與其年齡特點(diǎn)不符的內(nèi)容，批量製作傳播“毒動(dòng)畫”、兒童“虐向”“邪典”視頻，傷害、惡搞未成年人形象，影響未成年人身心健康。相關(guān)賬號已被依法依約處置。
6.利用AI“托管”從事網(wǎng)絡(luò)水軍活動(dòng)。微信賬號“濤**客”、微博賬號“A**師”、抖音賬號“風(fēng)*”等，為AI“托管”軟件引流，模擬真人運(yùn)營賬號、評論互動(dòng)，生成大量低質(zhì)同質(zhì)文案。相關(guān)賬號已被依法依約處置。
7.AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)。“N**t”“穿**元”“甜*圈”“芋**o”等網(wǎng)站平臺(tái)多個(gè)智能體封麵、簡介和生成對話中含有淫穢色情及其他危害未成年人身心健康的信息，嚴(yán)重破壞網(wǎng)絡(luò)生態(tài)。對拒不改正的，依法予以查處，按程序采取警告、罰款、下架或關(guān)閉等措施。
下一步，網(wǎng)信部門將在總結(jié)專項(xiàng)行動(dòng)治理成效的基礎(chǔ)上，進(jìn)一步把握人工智能發(fā)展趨勢和規(guī)律，密切關(guān)注AI生成合成內(nèi)容新情況新風(fēng)險(xiǎn)，及時(shí)采取有效措施防範(fàn)AI技術(shù)濫用惡用，持續(xù)為人工智能創(chuàng)新發(fā)展?fàn)I造良好環(huán)境。
相關(guān)文章