电子和信息技术部部长Ashwini Vaishnaw周六表示，政府将很快就深度造假问题与社交媒体平台会面，并断言，如果平台不采取适当措施消除深度造假，安全港豁免条款将不适用。

Vaishnaw说，政府最近就深度造假问题向公司发出了通知，这些平台做出了回应，但他补充说，这些公司必须更积极地对此类内容采取行动。

“他们正在采取措施……但我们认为还需要采取更多的措施。我们很快就会召开一次所有平台的会议，也许在接下来的3-4天里，我们会召集他们进行头脑风暴，确保平台做出足够的努力来防止(深度伪造)，并清理他们的系统。”

当被问及是否会召集meta和谷歌等大型平台参加会议时，部长表示肯定。

就在一天前，印度总理纳伦德拉·莫迪(Narendra Modi)对深度造假表示担忧，并警告称，人工智能(AI)技术可能导致重大危机，引发社会不满。

他说:“在我们这样一个多元化的社会里，深度造假可能会引发一场大危机，甚至引发不满情绪，因为人们通常会信任任何与媒体有关的东西，就像任何穿着‘藏红花’的人都会得到别人的尊重一样。”

莫迪补充说:“社会上有很大一部分人没有平行的核查系统。”

Vaishnaw还明确表示，除非平台采取适当行动，否则目前根据《信息技术法》享有的安全港豁免将不适用。

他表示:“大多数社交媒体平台一直享有的安全港条款……如果它们不采取足够措施从平台上删除深度造假，就不适用。”

最近，一些针对主要演员的“深度造假”视频在网上疯传，引发了人们的愤怒，并引发了人们对滥用技术和工具来制作虚假内容和叙事的担忧。

本月早些时候，一段由女演员拉什米卡·曼丹娜(Rashmika Mandanna)主演的深度造假视频引起了人们对人工智能深度造假问题以及人工智能技术不受监管的危险的关注。Mandanna的变形视频震惊了许多名人，包括演员Amitabh Bachchan, Keerthy Suresh, Mrunal Thakur, Ishaan Khatter和Naga Chaitanya都呼吁采取法律行动。

联邦部长拉吉夫·钱德拉塞卡(Rajeev Chandrasekhar)也呼吁社交媒体平台无法处理包含深度虚假和错误信息的内容。

深度造假是一种利用人工智能技术以图像或视频的形式创造高度令人信服的虚假内容的操纵形式。人工智能、photoshop、机器学习等在线工具被用来制作深度假视频、剪辑和其他内容。

人工智能生成的虚假内容被设计成由真人创作或以真人为特征，而实际上，它们完全是假的。