متا از قابلیت امنیتی جدیدی برای Meta AI رونمایی کرده که هدف آن محافظت بیشتر از نوجوانان در شرایط بحرانی است. از این پس، اگر یک نوجوان در گفتوگو با Meta AI درباره خودآزاری یا افکار خودکشی صحبت کند، سیستم میتواند پس از بررسی، والدینی را که قابلیت نظارت خانوادگی (Parental Supervision) را فعال کردهاند، از این موضوع مطلع کند.
این قابلیت در ادامه اقدامات قبلی متا برای افزایش ایمنی نوجوانان ارائه شده است. پیش از این، Meta AI در چنین شرایطی کاربران را به خطوط کمکرسانی و منابع تخصصی سلامت روان هدایت میکرد و از آنها میخواست با یکی از والدین، مشاور یا فردی مورد اعتماد صحبت کنند. اکنون، اگر سیستم تشخیص دهد که احتمال وجود خطر واقعی وجود دارد، علاوه بر ارائه این پیشنهادها، والدین نیز در جریان قرار خواهند گرفت.
متا میگوید این تصمیم با همکاری متخصصان سلامت روان و پس از دریافت بازخورد بیش از 75 روانشناس و متخصص سلامت روان نوجوانان گرفته شده است. همچنین تمام مکالمههایی که توسط هوش مصنوعی بهعنوان پرخطر شناسایی میشوند، پیش از ارسال هشدار برای والدین، توسط نیروی انسانی بازبینی خواهند شد تا احتمال خطا کاهش پیدا کند. با این حال، اگر وضعیت یک نوجوان مبهم باشد، متا ترجیح میدهد جانب احتیاط را رعایت کرده و هشدار ارسال کند، حتی اگر بعداً مشخص شود خطری وجود نداشته است.
در حال حاضر این قابلیت برای خانوادههایی که از ابزار Instagram Parental Supervision در آمریکا، کانادا، بریتانیا و استرالیا استفاده میکنند فعال شده و متا اعلام کرده است که تا پایان سال، آن را در سایر کشورها نیز عرضه خواهد کرد.
همزمان، متا در حال توسعه قابلیتی است که در صورت تشخیص خطر قریبالوقوع خودکشی، بتواند موضوع را به خدمات اورژانس نیز اطلاع دهد؛ قابلیتی که هنوز بهطور کامل فعال نشده اما نشان میدهد شرکتهای فناوری به سمت مداخله فعالتر در موقعیتهای بحرانی حرکت میکنند.
این تغییر در حالی معرفی شده که هوش مصنوعی روزبهروز نقش پررنگتری در زندگی نوجوانان پیدا میکند و نگرانیها درباره نحوه پاسخ این ابزارها به موضوعات حساسی مانند افسردگی، خودآزاری و سلامت روان نیز افزایش یافته است. متا معتقد است ترکیب هوش مصنوعی، بازبینی انسانی و مشارکت والدین میتواند به شناسایی زودهنگام نوجوانان در معرض خطر کمک کند، هرچند احتمالاً بحثهای زیادی درباره تعادل میان حفظ حریم خصوصی و امنیت کاربران نوجوان نیز شکل خواهد گرفت.
جمعبندی
قابلیت جدید Meta AI نشان میدهد رقابت شرکتهای فناوری در حوزه هوش مصنوعی دیگر فقط به امکانات و قابلیتهای جدید محدود نمیشود و موضوع ایمنی کاربران، بهویژه نوجوانان نیز به یکی از اولویتهای اصلی تبدیل شده است. اگر این سیستم بتواند بدون ایجاد هشدارهای نادرست زیاد، نوجوانان در معرض خطر را زودتر شناسایی کند، میتواند به ابزاری مؤثر برای حمایت از سلامت روان کاربران جوان تبدیل شود.
