یک گزارش اطلاعاتی تهیهشده با کمک هوش مصنوعی در آمریکا، محموله یک کشتی چینی در خاورمیانه را بهاشتباه مرتبط با برنامه تسلیحات هستهای معرفی کرد و طبق گزارش CNN، ارتش آمریکا را تا آستانه اجرای عملیات برای توقیف کشتی پیش برد. این حادثه نشان میدهد خطاهای هوش مصنوعی در حوزههای حساس، در صورت نبود سازوکارهای دقیق راستیآزمایی، میتوانند به تصمیمهای بسیار پرهزینه منجر شوند.
به گزارش فراخوان مقاله چهارمین کنگره بین المللی فن آوری، ارتباطات و دانش، یک تحلیلگر فرماندهی عملیات ویژه آمریکا اطلاعات مربوط به فهرست محموله یک کشتی چینی را در یک سامانه هوش مصنوعی وارد کرد. مشخص نیست این سامانه یک ابزار تجاری بوده یا یکی از سیستمهای اختصاصی دولت آمریکا. این سامانه با ترکیب اطلاعات منابع عمومی و اطلاعات محرمانه، به این نتیجه نادرست رسید که کشتی حامل قطعات مرتبط با یک برنامه توسعه تسلیحات هستهای است. تحلیلگر سپس از هوش مصنوعی برای تبدیل این یافتهها به قالب استاندارد یک گزارش اطلاعاتی رسمی استفاده کرد و گزارش در میان مقامهای نظامی توزیع شد. ارتش آمریکا برای توقیف کشتی آماده شده بود بر اساس گفته منابعی که با CNN صحبت کردهاند، گزارش اشتباه باعث شد ارتش آمریکا برای متوقف کردن کشتی آماده شود. طبق این گزارش، نیروهای مسلح برای ورود به کشتی آماده بودند و هواپیماهای نظامی نیز در حال پرواز بودند. مقامهای آمریکایی تنها اندکی پیش از اجرای عملیات، بررسی دقیقتری درباره گزارش انجام دادند و متوجه شدند بخشی از اطلاعات با کمک هوش مصنوعی تولید شده و سامانه در شناسایی محموله کشتی دچار خطا شده است. یکی از منابع این گزارش را «کاملاً نادرست» توصیف کرده و گفته است این اتفاق «تقریباً باعث شروع جنگ شد». CNN نتوانسته مشخص کند محموله واقعی کشتی چه بوده است. «توهم هوش مصنوعی» چیست؟ خطایی که در این ماجرا رخ داده، نمونهای از پدیدهای است که در حوزه هوش مصنوعی با عنوان «توهم» یا Hallucination شناخته میشود. در این حالت، مدل هوش مصنوعی اطلاعاتی نادرست تولید میکند، اما آن را با لحنی منسجم و ظاهراً معتبر ارائه میدهد. مشکل زمانی جدیتر میشود که چنین خروجی بدون راستیآزمایی وارد یک سند رسمی شود. در این حادثه، خروجی هوش مصنوعی تنها برای تحلیل اطلاعات استفاده نشد، بلکه برای تنظیم گزارش رسمی نیز به کار رفت؛ موضوعی که به گفته منابع، میتواند اعتماد تصمیمگیرندگان به اطلاعات اشتباه را افزایش دهد. ارتش آمریکا در حال گسترش استفاده از هوش مصنوعی است این حادثه در شرایطی رخ داده که ارتش و نهادهای اطلاعاتی آمریکا بهسرعت در حال گسترش استفاده از هوش مصنوعی هستند. از تحلیل حجم عظیم اطلاعات و پشتیبانی از تصمیمگیری نظامی گرفته تا لجستیک، زنجیره تأمین و انتخاب اهداف، کاربردهای مختلفی برای این فناوری در نظر گرفته شده است. پنتاگون نیز در ژانویه راهبردی برای تسریع استفاده نظامی از هوش مصنوعی ارائه کرد. هدف این برنامه، گسترش دسترسی نیروهای نظامی و کارکنان غیرنظامی وزارت دفاع آمریکا به مدلهای هوش مصنوعی و استفاده بیشتر از این فناوری در حوزههایی مانند مدیریت میدان نبرد و تحلیل اطلاعات است. با این حال، مقامهای آمریکایی به CNN گفتهاند که استفاده از این سامانهها در بخشهای مختلف ارتش به شکل یکپارچه انجام نمیشود و ابزارها، دستورالعملها و استانداردهای ایمنی متفاوتی وجود دارد. همچنین یک استاندارد واحد برای بررسی صحت اطلاعات تولیدشده توسط هوش مصنوعی در تمام بخشها وجود ندارد. ماجرای کشتی چینی نشان میدهد یکی از خطرهای فوری هوش مصنوعی لزوماً تصمیمگیری مستقل ماشینها نیست؛ بلکه اتکا انسان به خروجی اشتباه یک سامانه هوش مصنوعی است. ۲۲۷۲۲۷