Komisi Pemilihan India telah mengeluarkan advis kepada semua partai politik, mendorong mereka untuk menahan diri dari menggunakan deepfakes dan bentuk-bentuk lain dari informasi yang salah dalam posting media sosial mereka selama pemilihan umum yang sedang berlangsung di negara itu. Langkah ini diambil setelah badan konstitusi menghadapi kritik karena dianggap belum cukup melakukan tindakan untuk melawan kampanye semacam itu di negara terpadat di dunia.

Advis tersebut, yang dirilis pada hari Senin (PDF), mengharuskan partai politik untuk menghapus setiap deepfake audio atau video dalam waktu tiga jam setelah mengetahui keberadaannya. Partai-partai juga disarankan untuk mengidentifikasi dan memberi peringatan kepada individu yang bertanggung jawab atas pembuatan konten yang dimanipulasi. Tindakan Komisi Pemilihan ini menyusul perintah Mahkamah Tinggi Delhi yang meminta badan tersebut untuk menyelesaikan masalah ini setelah isu tersebut dibahas dalam petisi.

India, yang menjadi rumah bagi lebih dari 1,5 miliar orang, memulai pemilihan umumnya pada tanggal 19 April, dengan proses pemungutan suara dijadwalkan akan berakhir pada tanggal 1 Juni. Pemilihan ini telah dirusak oleh kontroversi seputar penggunaan deepfakes dan informasi yang keliru.

Perdana Menteri Narendra Modi mengeluh akhir bulan lalu tentang penggunaan suara palsu yang diduga menunjukkan pemimpin membuat pernyataan yang "bahkan tidak pernah terpikirkan," menuduh bahwa ini adalah bagian dari konspirasi yang dirancang untuk menimbulkan ketegangan dalam masyarakat.

Polisi India telah menangkap setidaknya enam orang dari tim media sosial Kongres Nasional India, partai oposisi teratas negara itu, karena menyebarkan video palsu yang menunjukkan Menteri Dalam Negeri Amit Shah membuat pernyataan yang ia klaim tidak pernah ucapkan.

India telah berjuang dengan penggunaan dan penyebaran deepfakes selama beberapa bulan terakhir. Ashwini Vaishnaw, menteri IT India, bertemu dengan perusahaan media sosial besar, termasuk Meta dan Google, pada bulan November, dan "mencapai kesepakatan" bahwa regulasi diperlukan untuk lebih baik melawan penyebaran video deepfake serta aplikasi yang memfasilitasi pembuatannya.

Menteri IT lainnya pada bulan Januari memperingatkan perusahaan teknologi tentang sanksi berat, termasuk larangan, jika mereka gagal mengambil langkah aktif melawan video deepfake. Negara ini belum mengkodekan regulasi drafnya tentang deepfakes menjadi undang-undang.

Komisi Pemilihan mengatakan pada hari Senin bahwa mereka telah "berulang kali mengarahkan" partai-partai politik dan pemimpin mereka untuk "menjaga tata krama dan menahan diri sepenuhnya dalam kampanye publik."