Batasan Muatan Konten dalam Pemanfaatan dan Pembelajaran Teknologi Digital dan Kecerdasan Artifisial


Konten yang digunakan dalam pemanfaatan dan pembelajaran teknologi digital dan kecerdasan artifisial dalam penyelenggaraan pendidikan tidak boleh memuat muatan yang bertentangan dengan peraturan perundang-undangan, etika, dan prinsip perlindungan anak. Batasan muatan konten yang tidak diperbolehkan meliputi antara lain:

  1. konten bermuatan kekerasan, termasuk kekerasan fisik, psikis, seksual, atau kekerasan berbasis gender terhadap anak
  2. konten bermuatan pornografiatau eksploitasi seksual, termasuk konten yang menormalisasi perilaku seksual yang tidak pantas bagi anak atau peserta didik
  3. konten bermuatan ujaran kebencian, termasuk provokasi berdasarkan suku, agama, ras, antargolongan (SARA), gender, atau kondisi disabilitas
  4. konten bermuatan perjudian atau promosi aktivitas ekonomi ilegal
  5. konten hoaks, disinformasi, atau misinformasi yang berpotensi menyesatkan peserta didik atau mengganggu proses pembelajaran
  6. konten yang memuat bias diskriminatif, termasuk stereotipe sosial, gender, atau etnis yang dapat membahayakan kelompoktertentu
  7. konten yang mengandung promosi terhadap perilaku adiktif atau berisiko tinggi, seperti penyalahgunaan zat, konsumsi alkohol, rokok, maupun praktik berbahaya lainnya
  8. konten yang memuat pelanggaran privasi dan penyalahgunaan aset digital, termasuk penyebarluasan data pribadi, citra, atau informasi pribadi peserta didik tanpa izin
  9. konten yang mengandung manipulasi digital berbasis kecerdasan artifisial (seperti deepfake, rekayasa suara, atau gambar sintetis) yang dapat menyesatkan, merusak reputasi, melanggar hak kekayaan intelektual, atau menimbulkan bahaya bagi pihak lain
  10. konten yang bertentangan dengan nilai-nilai Pancasila, etika akademik, dan norma kesusilaan dalam kehidupan bermasyarakat dan bernegara

Selain hal-hal di atas, pemanfaatan dan pembelajaran teknologi digital dan kecerdasan artifisial harus disesuaikan dengan kesiapan peserta didik. Kesiapan peserta didik mencakup aspek kognitif, psikologis, dan etis yang memungkinkan mereka mampu memahami, memanfaatkan, dan mengembangkan teknologi digital serta kecerdasan artifisial secara aman, etis, dan bertanggungjawab.

Dalam konteks ini, satuan pendidikan perlu memastikan bahwa peserta didik memiliki literasi digital dasar yang meliputi kemampuan mengakses, menilai, mengelola, dan menciptakan informasi secara tepat dan bertanggung jawab sebelum memperkenalkan konsep atau penerapan teknologi digital dan kecerdasan artifisial yang lebih kompleks.

Disamping itu kemampuan teknis, kesiapan juga mencakup literasi etika dan sosial, yaitu kesadaran peserta didik terhadap dampak pemanfaatan teknologi terhadap dirinya, teman sebaya, dan masyarakat sekitar. Peserta didik diharapkan memiliki kemampuan berpikir kritis, empati digital, serta kesadaran atas prinsip-prinsip seperti privasi, keamanan data, keadilan, dan tanggung jawab dalam memanfaatkan teknologi digital dan kecerdasan artifisial.

Kesiapan peserta didik juga mencakup pemahaman terhadap risiko kesehatan mental yang berkaitan dengan penggunaan teknologi digital dan kecerdasan artifisial, termasuk kecemasan, depresi, dan kecanduan digital, serta kemampuan untuk mengakses layanan dukungan psikososial ketika diperlukan.