تعدادی از بزرگترین شرکت‌های سازنده هوش مصنوعی، غول‌های قدیمی دره سیلیکون، گوگل و مایکروسافت در کنار OpenAI وAnthropic ، گرد هم می‌آیند تا بدنه این صنعت را به سنگر اصلی ایمنی در برابر هوش مصنوعی تبدیل کنند.
اولین قدم این شرکت‌های چند میلیارد دلاری برای انجمن نوپای هوش مصنوعی، استخدام یک مدیر جدید و ۱۰ میلیون دلار است تا جهان را با استفاده درست از هوش مصنوعی آشنا کرده و مدیریت کنند.
اعضای دیگر این گروه را چند سازمان بشردوستانه که طرفدار هوش مصنوعی هستند، تشکیل می‌دهند.
این شرکت‌ها Frontier Model Forum را با هدف تحقیق درباره ایمنی هوش مصنوعی و توسعه آن راه‌اندازی کردند.
هدف اصلی این صندوق جست‌وجوی جدیدترین و بزرگترین مدل‌های هوش مصنوعی است.
صندوق فضای آزمایشگاهی ندارد، اما از تیم‌های شرکا استفاده می‌کند.
مایکروسافت قبلاً میلیاردها دلار به OpenAI پرداخت کرده تا مدل‌های زبانی بیشتری ایجاد کنند.
آمازون اخیراً چهار میلیارد دلار به Anthropic اختصاص داده است تا مدل‌های هوش مصنوعی بیشتری را برای خدمات آمازون توسعه دهد.
هم گوگل و هم مایکروسافت می‌گویند که در تلاش هستند تا خطرات هوش مصنوعی را به حداقل برسانند، در حالی که از هوش مصنوعی مولد تا مرحله آخر تولید محصولشان استفاده می‌کنند
این دو غول فناوری در کنار VC OpenAI و Anthropic ادعا کرده‌اند که هوش مصنوعی را مدیریت می‌کنند، اما وقتی پیمانکاران نظامی بزرگی مثل Palantir در میان رده‌های آنها هستند، جدی گرفتن این تعهد سخت است.
بنیاد بین‌المللی دیده‌بان مستقر در بریتانیا (IWF) اعلام کرده است که ۲۰۰۰۰ عکس را پیدا کرده‌اند که از یک فروم وب تاریک برای سوء استفاده جنسی از کودکان ارسال شده است.
ایالت لوئیزیانا قبلاً قانونی را تصویب کرده بود که دیپ فیک جنسی افراد زیر سن قانونی را ممنوع می‌کرد.
ماه گذشته دادگاه کره جنوبی مردی را به خاطر تصاویر AI CSAM به دو سال و نیم زندان محکوم کرد.