RUU tersebut juga bertujuan untuk menjadikan chatbot AI lebih aman dengan membentuk regulator digital untuk menetapkan standar keselamatan.

Pemerintah Kanada telah memperkenalkan undang-undang keamanan digital baru yang akan melarang ⁠media sosial untuk anak-anak di bawah 16 tahun, dengan dikirimkan ke platform yang memenuhi standar keamanan tertentu.

RUU ini juga bertujuan untuk membuat chatbot AI lebih aman dengan membentuk regulator digital ⁠untuk menetapkan standar keselamatan, kata seorang pejabat pemerintah.

Usulan “Undang-Undang Keamanan Digital” menjadikan Kanada sebagai negara terbaru dalam gelombang negara yang bergerak untuk menindak platform media sosial karena kekhawatiran akan bahaya terhadap anak-anak.

“Kami telah melihat konsekuensi sangat serius yang dapat ditimbulkan oleh kekerasan online. Keselamatan anak-anak tidak bisa diabaikan begitu saja,” kata Menteri Identitas dan Kebudayaan Kanada, Marc Miller, dalam sebuah pernyataan.

Perusahaan dapat mengenakan denda sebesar 3% dari pendapatan global atau hingga C$10 juta ($7,2 juta), mana saja yang lebih besar, jika tidak mematuhi peraturan ini.

Platform media sosial dan chatbot AI dirancang untuk menarik perhatian. Mereka tidak mendukung perkembangan masa kanak-kanak yang sehat dan telah menjadi sumber kecemasan, isolasi, depresi, dan berbagai tantangan kesehatan mental lainnya bagi banyak anak muda Kanada, kata Miller.

“Undang-undang ini akan menyediakan lingkungan yang lebih aman bagi generasi muda Kanada dan memberdayakan mereka untuk terhubung secara langsung, membangun persahabatan, fokus di sekolah, dan mempelajari keterampilan dunia nyata sehingga mereka dapat berkembang.”

RUU ini diperkenalkan di Parlemen beberapa minggu setelah keluarga-keluarga terkena dampak salah satu penembakan massal terburuk di negara itu menggugat OpenAImenuduh bahwa perusahaan mengetahui pembunuhnya merencanakan serangan setelah umat Islam menghina platformnya pada bulan Juni tahun lalu karena percakapan pengguna yang meresahkan di ChatGPT, tetapi tidak diperingatkan polisi.

Dalam proposalnya untuk RUU C-34, pemerintah Kanada mengatakan bahwa selain perilaku individu, dampak buruk di dunia maya “juga dibentuk oleh bagaimana layanan digital dirancang dan dioperasikan. Fitur-fitur seperti sistem rekomendasi algoritmik, feed berbasis keterlibatan, putar otomatis, dan pengguliran tanpa akhir dapat memperkuat konten berbahaya dan meningkatkan keterpaparan, terutama bagi pengguna muda.”

AI telah menambah tantangan baru, dan layanan digital “tidak dapat menyeimbangkan skala, kecepatan, dan tingkat keparahan dampak buruk yang terjadi secara online”, kata pemerintah.

Dengan latar belakang tersebut, RUU ini bertujuan untuk menetapkan persyaratan keselamatan baru untuk media sosial dan layanan chatbot AI, yang mengharuskan mereka mengidentifikasi risiko bahaya pada platform mereka, mengadopsi langkah-langkah untuk mengatasi risiko tertentu, menerapkan fitur desain yang fokus pada keselamatan dan sesuai usia, menyediakan alat, seperti pemblokiran dan penandaan, dan banyak lagi.

Mereka juga menginginkan platform untuk menghapus konten yang mencakup pembagian gambar intim tanpa persetujuan dalam waktu 24 jam setelah ditandai, menurut laporan media lokal.

Pada bulan Desember, Australia menjadi negara dunia negara pertama melarang media sosial bagi anak-anak di bawah 16 tahun. ⁠Sebulan setelahnya hukum diperkenalkanperusahaan media sosial secara kolektif menonaktifkan akun hampir 5 ⁠ juta remaja. Para pejabat pemerintah dalam penjelasan teknisnya mengatakan bahwa diperlukan waktu satu tahun untuk meloloskan RUU tersebut, dan 18 bulan untuk membentuk regulator digital setelah RUU tersebut disetujui.

Prancis, Denmark, dan ⁠Polandia juga mempertimbangkan untuk memperketat aturan seputar penggunaan media sosial untuk anak-anak, sementara Yunani pada bulan April mengumumkan akan melarang akses terhadap remaja di bawah 15 tahun mulai Januari 2027.