中央網(wǎng)信辦:整治利用“AI換臉”生成涉未成年人低俗色情圖片視頻等問題|環(huán)球熱聞

來源:人民網(wǎng)

人民網(wǎng)北京6月28日電 (記者申佳平)據(jù)中國網(wǎng)信網(wǎng)消息,為進一步強化未成年人網(wǎng)絡(luò)保護,營造健康安全網(wǎng)絡(luò)環(huán)境,中央網(wǎng)信辦近日決定開展為期2個月的“清朗·2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項行動,將對網(wǎng)絡(luò)欺凌、利用“AI換臉”等技術(shù)生成涉未成年人低俗色情圖片視頻等問題進行處置處罰。

據(jù)了解,該專項行動的目的是集中整治網(wǎng)上涉未成年人突出問題,全面壓縮有害信息隱形變異的生存空間,堅決遏制侵害未成年人權(quán)益的違法行為,進一步提升學習類APP、兒童智能設(shè)備等專屬產(chǎn)品服務(wù)信息內(nèi)容安全標準,有效解決網(wǎng)絡(luò)沉迷問題,營造有利于未成年人健康安全成長的網(wǎng)絡(luò)環(huán)境。


(資料圖)

同時,針對未成年人用戶數(shù)量較大、對未成年人具有顯著影響的網(wǎng)站平臺以及兒童智能設(shè)備,專項行動將從深從細全面整治,從嚴從重處置處罰,持續(xù)凈化網(wǎng)絡(luò)生態(tài)。重點聚焦以下7方面問題:

一是有害內(nèi)容隱形變異問題。一是以諧音詞、變體字、表情符號等形式傳播色情低俗、賭博迷信等內(nèi)容;二是利用視頻剪輯、影視二創(chuàng)、動漫改編等方式集中展示涉未成年人血腥暴力等畫面;三是通過外鏈、浮窗、二維碼、賬號信息等進行色情引流;四是兒童智能設(shè)備自帶及第三方APP,語音、文字搜索結(jié)果中存在涉黃涉暴內(nèi)容。

二是網(wǎng)絡(luò)欺凌問題。一是使用網(wǎng)絡(luò)爛梗對未成年人進行侮辱謾罵;二是對未成年人進行“人肉搜索”,惡意傳播泄露未成年人隱私的欺凌視頻;三是通過惡意P圖、編造謠言等,詆毀未成年人。

三是隔空猥褻問題。一是借“個性交友”“童星招募”“有償收圖”等名義,誘騙或脅迫未成年人進行在線裸聊、作出淫穢動作、提供裸照視頻等;二是通過群組、私信等渠道向未成年人發(fā)送色情圖片、淫穢語言;三是在涉未成年人賬號、文章頁面發(fā)布低俗色情跟帖評論,誘導(dǎo)不良交友或?qū)嵤┬砸T。

四是網(wǎng)絡(luò)詐騙問題。一是以“內(nèi)部人員”“含淚轉(zhuǎn)讓”等名義向未成年人虛假售賣演唱會門票,實施網(wǎng)絡(luò)詐騙;二是以免費游戲裝備、投票返現(xiàn)、盲盒抽取、粉絲抽獎等名義誘導(dǎo)未成年人加入群聊,誘騙轉(zhuǎn)賬匯款;三是誘騙未成年人提供社交賬號、支付密碼等用于網(wǎng)絡(luò)詐騙活動。

五是不良內(nèi)容問題。一是發(fā)布校園主題劇情演繹類視頻,以偏激方式丑化學校形象,鼓噪師生矛盾,美化頂撞老師等行為;二是渲染家長“壓迫”“壓榨”孩子,惡意編造虛假家庭矛盾等內(nèi)容;三是誘導(dǎo)吸煙、飲酒、紋身、曠課等不良行為;四是通過虛假擺拍鼓吹“霸凌風”“家暴妝”等畸形審美,傳播以強凌弱、以暴制暴等不良內(nèi)容。

六是網(wǎng)絡(luò)沉迷問題。一是誘導(dǎo)未成年人長時間觀看直播短視頻;二是利用算法向未成年人集中推送誘導(dǎo)沉迷內(nèi)容,形成信息繭房;三是通過聊天交友、虛擬空間裝飾等娛樂功能誘導(dǎo)未成年人消費;四是向未成年人違規(guī)提供網(wǎng)絡(luò)游戲賬號租售服務(wù),教授未成年人破解防沉迷系統(tǒng)、繞過青少年模式。

七是新技術(shù)新應(yīng)用風險問題。一是利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術(shù)生成涉未成年人低俗色情圖片視頻;二是利用所謂“閱后即焚”的密聊軟件誘騙未成年人提供個人信息,誘導(dǎo)實施違法行為;三是利用生成式人工智能技術(shù)制作發(fā)布涉未成年人有害信息。

標簽:

推薦

財富更多》

動態(tài)更多》

熱點