Terungkap Bahaya AI Gemini Bagi Anak dan Remaja, Orang Tua Harus Waspada!

Perkembangan teknologi kecerdasan buatan (AI) semakin pesat, namun tidak semua inovasi yang dihadirkan bebas risiko, khususnya bagi anak-anak dan remaja. Salah satu temuan terbaru datang dari Common Sense Media, organisasi nirlaba yang fokus pada keselamatan anak dalam penggunaan teknologi.

Dalam laporan terbaru yang diungkap Antara News, mereka mengungkapkan potensi bahaya AI Gemini milik Google terhadap pengguna usia muda. Meski sistem ini mengklaim telah menyertakan filter keamanan, Common Sense tetap menilai Gemini sebagai layanan berisiko tinggi sehingga orang tua perlu meningkatkan kewaspadaan.

Menurut hasil analisis, Gemini memang sudah menjelaskan dirinya sebagai sistem komputer, bukan teman virtual. Namun, pendekatan ini dianggap masih jauh dari cukup. Versi khusus untuk anak di bawah 13 tahun dan remaja nyatanya hanyalah versi dewasa yang diberi tambahan filter, bukan produk yang benar-benar dirancang dengan perspektif kebutuhan dan keselamatan anak.

Common Sense menekankan bahwa produk AI untuk anak seharusnya dibangun dari awal dengan pendekatan yang spesifik, bukan hasil modifikasi dari sistem dewasa. Sayangnya, hal ini belum sepenuhnya diterapkan pada AI Gemini. Akibatnya, anak-anak dan remaja tetap bisa mengakses konten yang tidak sesuai, seperti informasi tentang narkoba, seks, alkohol, hingga saran kesehatan mental yang bisa menyesatkan atau bahkan membahayakan.

Laporan tersebut menjadi semakin mengkhawatirkan ketika diketahui bahwa Gemini disebut-sebut akan digunakan oleh Apple sebagai model bahasa untuk versi terbaru Siri yang direncanakan rilis tahun depan. Jika hal ini benar terjadi tanpa pengamanan ekstra, jutaan anak dan remaja berpotensi terekspos risiko yang sama.

Common Sense juga menyampaikan bahwa pendekatan Gemini dalam menangani pengguna muda terkesan mengabaikan perbedaan kebutuhan antara anak-anak dan orang dewasa. Ini membuat sistem tidak cukup memberikan perlindungan atau panduan yang sesuai dengan tahap perkembangan anak.

Senior Director AI Programs Common Sense, Robbie Torney mengungkapkan bahwa meskipun ada langkah-langkah yang tampak menjanjikan, namun banyak aspek penting yang justru terabaikan. Menurutnya, sistem AI yang ditujukan untuk anak seharusnya memperhatikan karakteristik perkembangan usia dan tidak menyamaratakan pengalaman pengguna.

Google sendiri menyatakan bahwa mereka telah memiliki perlindungan khusus bagi pengguna di bawah 18 tahun, termasuk konsultasi dengan para ahli eksternal. Namun, mereka juga mengakui masih ada respons dari Gemini yang belum sesuai harapan. Google menyebut sedang menambahkan perlindungan tambahan sebagai tindak lanjut atas temuan tersebut.

Di sisi lain, Google mempertanyakan validitas pengujian yang dilakukan oleh Common Sense, terutama karena pihaknya tidak diberi tahu pertanyaan apa saja yang digunakan dalam evaluasi tersebut. Meskipun begitu, laporan ini tetap memberikan sinyal bahwa pengawasan lebih ketat masih sangat diperlukan.

Gemini bukan satu-satunya platform AI yang dinilai bermasalah. Dalam penilaian sebelumnya, Common Sense mengategorikan Meta AI dan Character.AI sebagai 'tidak dapat diterima' karena risikonya sangat tinggi. Perplexity dinilai berisiko tinggi, ChatGPT berada di tingkat risiko 'sedang', sementara Claude yang ditujukan untuk pengguna 18 tahun ke atas dianggap sebagai yang paling aman.

AI Bak Dua Mata Koin Berbeda, Orang Tua Perlu Lebih Waspada

Seperti dua sisi mata uang, AI memiliki manfaat sekaligus risiko. Di satu sisi, AI dapat mempercepat proses belajar, membuka akses pendidikan, serta membantu anak-anak dalam memahami materi yang kompleks. Namun di sisi lain, tanpa pengawasan, AI juga bisa menjerumuskan anak pada informasi yang salah, menimbulkan kecanduan digital, hingga memicu masalah kesehatan mental.

Karena itulah orang tua perlu lebih aktif dalam mendampingi anak saat menggunakan teknologi berbasis AI. Penting untuk tidak hanya membatasi waktu penggunaan, tetapi juga memilih platform yang terpercaya dan memiliki kontrol orang tua. Dengan demikian, anak-anak tetap bisa merasakan manfaat AI tanpa terkena dampak buruknya.

Langkah lain yang tidak kalah penting adalah mengedukasi anak tentang etika penggunaan teknologi dan mendorong mereka untuk bersikap kritis terhadap jawaban yang diberikan AI. Ini akan membantu membentuk pemahaman bahwa AI hanyalah alat bantu, bukan sumber kebenaran mutlak.

Orang tua juga sebaiknya mendorong anak untuk tetap berinteraksi di dunia nyata, menjalin hubungan sosial, serta mengembangkan kemampuan komunikasi interpersonal. Ketergantungan berlebihan pada AI bisa mereduksi kemampuan anak dalam membangun koneksi dengan lingkungan sekitarnya.

CEK BERITA DAN ARTIKEL LAINNYA DI GOOGLE NEWS