فشارها بر اپل و گوگل برای مقابله با اپلیکیشنهای مبتنی بر هوش مصنوعی که امکان تولید تصاویر غیراخلاقی بدون رضایت افراد را فراهم میکنند، وارد مرحله تازهای شده است.
دادستان شهر سانفرانسیسکو با ارسال اخطارهای رسمی (Cease and Desist)، از اپل و گوگل خواسته است 13 اپلیکیشن را که در فروشگاههای نرمافزاری آنها منتشر شدهاند، حذف کنند. به گفته مقامهای شهری، این برنامهها با تبلیغ خود بهعنوان ابزارهای «تعویض چهره» یا ویرایش تصویر، در عمل برای تولید تصاویر برهنه جعلی از افراد واقعی مورد استفاده قرار میگیرند.
این نامهها همچنین از دو شرکت میخواهند همکاری تجاری خود با توسعهدهندگان این برنامهها را متوقف کنند و دیگر از خریدهای درونبرنامهای آنها سهمی دریافت نکنند. دادستان سانفرانسیسکو معتقد است ادامه حضور چنین برنامههایی در فروشگاههای اپل و گوگل، به گسترش سوءاستفاده از فناوری هوش مصنوعی کمک میکند.
چرا این اپلیکیشنها بحثبرانگیز هستند؟
این دسته از برنامهها با استفاده از مدلهای هوش مصنوعی، تصاویر افراد را دستکاری میکنند و بدون رضایت آنها، نسخههای جعلی و صریح از تصاویرشان تولید میکنند.
در سالهای اخیر استفاده از این فناوری برای آزار اینترنتی، اخاذی، تهدید، تخریب اعتبار افراد و حتی سوءاستفاده از تصاویر نوجوانان و کودکان به یکی از نگرانیهای جدی کارشناسان امنیت و حریم خصوصی تبدیل شده است.
اپل و گوگل چه میگویند؟
گوگل اعلام کرده بسیاری از اپلیکیشنهای معرفیشده در این اخطارها را به دلیل نقض قوانین فروشگاه خود حذف کرده و طی ماههای گذشته صدها برنامه مشابه را نیز از Google Play کنار گذاشته است. همچنین این شرکت دسترسی به برخی کلیدواژههای مرتبط را محدود کرده است.
اپل تاکنون واکنش رسمی به این درخواست نشان نداده است، اما قوانین App Store صراحتاً انتشار محتوای سوءاستفادهگرانه، جنسی یا ناقض حریم خصوصی افراد را ممنوع میکنند. با این حال، منتقدان میگویند برخی از این برنامهها همچنان موفق شدهاند از فرایند بررسی اپل عبور کنند و در فروشگاه باقی بمانند.
احتمال اقدامات حقوقی
دادستان سانفرانسیسکو هشدار داده است که اگر اپل و گوگل اقدام مؤثری انجام ندهند، ممکن است با پیگیریهای حقوقی بیشتری روبهرو شوند.
به گفته او، فناوری تولید تصاویر صریح بدون رضایت افراد «غیرقانونی، آسیبزا و کاملاً غیرقابل قبول» است و شرکتهای بزرگ فناوری باید مسئولیت بیشتری در قبال برنامههایی که روی پلتفرمهایشان منتشر میشوند، بپذیرند.
هوش مصنوعی فرصتهای زیادی برای تولید محتوا و خلاقیت ایجاد کرده، اما در کنار آن ابزارهایی نیز شکل گرفتهاند که میتوانند برای نقض حریم خصوصی و آسیب رساندن به افراد مورد سوءاستفاده قرار گیرند.
درخواست جدید سانفرانسیسکو از اپل و گوگل، نشان میدهد فشار نهادهای قانونی برای حذف این دسته از اپلیکیشنها در حال افزایش است. اکنون باید دید آیا این دو شرکت سیاستهای نظارتی خود را سختگیرانهتر خواهند کرد یا این موضوع به پروندهای حقوقی تبدیل میشود.
