Meta AI akan maklum Ibu Bapa jika Remaja Menunjukkan tanda-tanda distress dalam Perbualan Dengan Meta AI
Kemaskini termasuk amaran ibu bapa apabila kanak-kanak terlibat dalam kecederaan diri atau sembang berkaitan bunuh diri dengan alat kecerdasan buatan.
Meta menambah makluman baharu untuk ibu bapa yang anak-anaknya membincangkan topik sensitif dengan Meta AI. Kemaskini membantu memastikan ibu bapa sentiasa menyedari potensi kebimbangan yang berkaitan dengan penglibatan chatbot kecerdasan buatan anak-anak mereka.
Pertama, Meta akan memberi amaran kepada ibu bapa apabila anak-anak mereka terlibat dalam perbincangan AI yang berkaitan dengan bunuh diri dan / atau mencederakan diri sendiri.
Seperti yang ditunjukkan dalam urutan ini, apabila seorang remaja terlibat dalam sembang berkaitan kecederaan diri dengan Meta AI, ibu bapa akan dihantar amaran, yang juga termasuk pautan kepada sumber sokongan yang berkaitan.
Seperti yang dijelaskan oleh Meta: “Apabila seorang remaja mencadangkan mereka mungkin berfikir tentang bunuh diri atau mencederakan diri sendiri, Meta AI sudah mengarahkan mereka ke talian bantuan krisis dan menggalakkan mereka menghubungi ibu bapa atau orang dewasa lain yang dipercayai seperti kaunselor. Kini, kami juga akan memberi amaran secara proaktif kepada ibu bapa yang menyelia jika sembang Meta AI remaja mereka mencadangkan mereka mungkin berisiko, berdasarkan isyarat yang dibangunkan dengan pakar.
Meta berkata laporannya pada mulanya akan menyertakan pelbagai isyarat, kerana ia tersilap langkah dengan berhati-hati dengan makluman ini. Syarikat sedang berusaha untuk memperhalusi mesejnya untuk memaksimumkan keselamatan tanpa menyebabkan kesusahan kepada ibu bapa.
“Makluman ini disiarkan secara langsung sekarang untuk ibu bapa yang menggunakan pengawasan ibu bapa Instagram di AS, UK, Australia dan Kanada, dan akan tersedia untuk menyelia ibu bapa di seluruh dunia menjelang akhir tahun 2026“, kata Meta.
Pengguna remaja juga akan dimaklumkan tentang kemaskini ini.
Ini boleh membantu kerana lebih ramai orang beralih kepada chatbots untuk mendapatkan sokongan dan nasihat. Data menunjukkan bahawa pengguna yang lebih muda, khususnya, semakin mencari panduan daripada sistem berkuasa AI.
Sebagai tambahan kepada makluman ibu bapa, Meta sedang membangunkan sistem baharu yang akan menghubungi perkhidmatan kecemasan apabila sebarang perbualan dengan Meta AI tanpa mengira kumpulan umur menunjukkan bahawa pengguna mungkin menghadapi risiko bunuh diri.
“Ini berdasarkan kerja yang telah kami lakukan di seluruh Facebook dan Instagram: apabila kami menyedari siaran yang mencadangkan risiko bunuh diri yang boleh dipercayai, kami memaklumkan perkhidmatan kecemasan”, kata Meta. “Tahun lepas, kami membuat lebih 19,000 rujukan sedemikian di seluruh dunia, membantu responden pertama melakukan pemeriksaan kesihatan ke atas orang yang mungkin berisiko membunuh diri”.
Meta juga mengulangi bahawa remaja yang terlibat dalam perbincangan dengan Meta AI secara automatik mengikut tetapan kandungan 13 + nya, yang direka untuk memberikan respons yang sesuai dengan umur dan untuk tidak mematuhi gesaan sensitif.
“Sebagai contoh, Meta AI dilatih untuk tidak terlibat dalam perbualan seksual atau romantis dengan remaja atau menyediakan resipi untuk minuman beralkohol, sebaliknya mengarahkan remaja ke topik yang lebih selamat”, kata Meta.
Ini berlaku selepas laporan bahawa Meta membenarkan chatbots AInya terlibat dalam perbualan yang tidak sesuai dengan kanak-kanak bawah umur .
Meta telah menyemak semula pendekatan ini. Pada bulan April, syarikat itu juga menambah elemen baharu dalam alat penyeliaan remajanya yang memberikan ibu bapa pengawasan terhadap perkara yang ditanya oleh anak-anak mereka tentang chatbot AInya.
Secara gabungan, kemaskini ini seharusnya membantu meningkatkan keselamatan remaja. Pada masa yang sama, kami tidak tahu jenis kesan alat penglibatan AI terhadap remaja atau orang dewasa dari semasa ke semasa, terutamanya apabila ia berkaitan dengan topik sensitif.
Minggu ini, penggubal undang-undang di China bergerak untuk mengharamkan hubungan romantis dengan chatbots AI di tengah-tengah kebimbangan tentang kesan berbahaya.
Walaupun ini kelihatan sah, ukuran sebenar kerosakan mungkin hanya boleh diukur jika dilihat semula, selepas sebarang bahaya telah dilakukan.
