• 3 دقیقه زمان مطالعه

چت‌بات Grok از کنترل خارج شد؛ ماسک دنبال ریسک‌های بیشتر است!

چت‌بات Grok از کنترل خارج شد؛ ماسک دنبال ریسک‌های بیشتر است!

اخیراً گزارش‌هایی منتشر شده که نشان می‌دهد کارکنان شرکت xAI، استارتاپ هوش مصنوعی ایلان ماسک، نسبت به رویکردهای ایمنی و مدیریت این شرکت شدیداً نگران و ناراضی هستند. برخی از منابع خبری، از جمله The Verge، خبر داده‌اند که در هفته‌های اخیر حداقل ۱۱ مهندس و دو بنیان‌گذار xAI شرکت را ترک کرده‌اند.

علت این ترک کارها، به گفته منابع داخلی، نگرانی از رویکرد شرکت در زمینه ایمنی هوش مصنوعی بوده است. یکی از منابع گفت: «ایمنی در xAI عملاً مرده است.» این نگرانی‌ها پس از آن شدت گرفت که چت‌بات Grok، محصول این شرکت، برای تولید بیش از یک میلیون تصویر جنسی‌شده، از جمله تصاویر عمیق (deepfake) از زنان و حتی کودکان، مورد استفاده قرار گرفت.

یکی دیگر از منابع اعلام کرد: «ماسک فعالانه در تلاش است تا مدل را غیرقابل کنترل‌تر کند، چون از نظر او ایمنی در واقع به معنی سانسور است.» این دیدگاه نشان می‌دهد که سیاست مدیریتی xAI ممکن است با استانداردهای اخلاقی و امنیتی متعارف در هوش مصنوعی فاصله زیادی داشته باشد.

علاوه بر مسائل ایمنی، کارکنان سابق از کمبود جهت‌گیری و برنامه‌ریزی واضح در شرکت گلایه کرده‌اند. یکی از آن‌ها گفته است: «احساس می‌کنم xAI هنوز در مرحله جبران عقب‌ماندگی نسبت به رقبا گیر کرده است.»

این تحولات همزمان با اعلام خرید xAI توسط SpaceX رخ داده است. ایلان ماسک این انتقال را بخشی از تلاش برای سازماندهی بهتر شرکت اعلام کرده و برخی از کارکنان ترک‌کننده نیز گفته‌اند که قصد دارند پروژه‌های جدیدی را آغاز کنند.

با توجه به سابقه ماسک در هدایت پروژه‌های پرسرعت و گاه پرحاشیه، نگرانی‌ها درباره مسیر آینده xAI و تعادل بین نوآوری و ایمنی، احتمالاً موضوعی خواهد بود که در سطح جهانی مورد بحث و بررسی قرار گیرد.

درخواست انجام

خبرهای هفته
تگ های محبوب
magzin
magzin
magzin
magzin