隨著人工智能技術(shù)的快速發(fā)展，AI換臉應(yīng)用因其趣味性和創(chuàng)新性迅速流行。這項(xiàng)技術(shù)也引發(fā)了社會(huì)廣泛擔(dān)憂。例如，未經(jīng)授權(quán)的換臉視頻可能侵犯?jìng)€(gè)人肖像權(quán)和隱私，甚至被用于詐騙、誹謗等違法犯罪活動(dòng)，嚴(yán)重威脅公共安全和社會(huì)秩序。

為應(yīng)對(duì)這一問(wèn)題，國(guó)家互聯(lián)網(wǎng)信息辦公室（網(wǎng)信辦）積極行動(dòng)，制定并發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)規(guī)定，對(duì)AI換臉等深度合成技術(shù)進(jìn)行嚴(yán)格監(jiān)管。新規(guī)強(qiáng)調(diào)，提供此類服務(wù)的平臺(tái)必須履行備案義務(wù)，確保數(shù)據(jù)來(lái)源合法，并設(shè)置顯著標(biāo)識(shí)以提示用戶。禁止利用AI換臉技術(shù)從事?lián)p害國(guó)家利益、社會(huì)公共利益和他人合法權(quán)益的行為。

這些措施旨在加強(qiáng)互聯(lián)網(wǎng)安全服務(wù)，保護(hù)用戶個(gè)人信息，促進(jìn)技術(shù)健康有序發(fā)展。隨著監(jiān)管體系的完善和技術(shù)的迭代，AI換臉有望在娛樂(lè)、教育等領(lǐng)域發(fā)揮更大價(jià)值，同時(shí)最大限度地降低潛在風(fēng)險(xiǎn)。