کسب‌وکارهای کوچک می‌توانند با هوش مصنوعی بسازند، اما تعداد کمی می‌توانند اشتباهات آن را تشخیص دهند
برای سال‌ها، یک نرم‌افزار شبیه‌سازی مهندسی که به‌طور گسترده استفاده می‌شد، اعلام می‌کرد کار شما با موفقیت به پایان رسیده است؛ در حالی که اجرای آن در میانه راه متوقف شده بود.
به گزارش کارآفرینی پرس به نقل از فوربس، این نرم‌افزار، اس یو2 نام دارد؛ برنامه‌ای رایگان که مهندسان هوافضا برای پیش‌بینی جریان هوا از آن استفاده می‌کنند. وقتی زمان اختصاص‌یافته به یک کار در خوشه رایانشی تمام می‌شد و به اس یو2 فرمان توقف می‌داد، برنامه پیام «تمام معیارهای همگرایی برآورده شدند» را چاپ می‌کرد و خارج می‌شد. در واقع هیچ‌یک از آن معیارها تحقق نیافته بود و اجرا صرفاً متوقف شده بود. اصلاحیه‌ای که در سپتامبر اعمال شد، اکنون باعث می‌شود نرم‌افزار پیام مشخصی برای وقفه نمایش دهد.
این برنامه دقیقاً دروغ نمی‌گفت. گزارش می‌داد که روند اجرایی آن پایان یافته است، که درست بود؛ اما خواننده از آن نتیجه می‌گرفت که پاسخ به‌دست‌آمده معتبر است، که درست نبود.
این نمونه مشکلی واقعی را در خروجی ماشین‌ها نشان می‌دهد: تولید یک طرح تقریباً رایگان شده، اما اثبات اینکه آن طرح واقعاً کار می‌کند همچنان زمان و تلاش می‌خواهد. این‌گونه خطاها به‌زودی بسیار پرهزینه‌تر خواهند شد.
صنعت هوافضا زودتر از دیگران با این مسئله روبه‌رو می‌شود، اما آخرین صنعت نخواهد بود. هر صاحب کسب‌وکاری که به نتایج نرم‌افزاری اعتماد کند که امکان بررسی دوباره آن‌ها را ندارد، با همان خطر مواجه است. هرچه تصمیم مهم‌تر باشد، هزینه اشتباه نرم‌افزار بیشتر است.
تاکنون فقط سهم کوچکی از شرکت‌ها بر خروجی هوش مصنوعی تکیه کرده‌اند. بنا بر داده‌های نظرسنجی اداره سرشماری آمریکا که بانک فدرال رزرو مینیاپولیس تحلیل کرده، در اواخر سال ۲۰۲۵ حدود ۱۰ درصد کسب‌وکارهای آمریکایی برای تولید کالا یا خدمات از هوش مصنوعی استفاده می‌کردند. تا اوایل ۲۰۲۶ حدود ۲۰ درصد در بخشی از عملیات خود از آن بهره می‌گرفتند، هرچند نه لزوماً برای تولید چیزی. بنابراین بیشتر شرکت‌ها هنوز فرصت دارند پیش از وابسته شدن به هوش مصنوعی، روش بررسی کار آن را مشخص کنند.
مهندسان دانشگاه کارنگی ملون می‌خواستند بدانند آیا هوش مصنوعی می‌تواند نتایج شبیه‌سازی مهندسی را بخواند یا نه. آن‌ها ۱۰ مدل بینایی-زبانی، یعنی مدل‌هایی که تصویر و متن را می‌فهمند، با مجموعه آزمونی شامل حداکثر ۲۰۰ هزار پرسش برگرفته از شبیه‌سازی‌های مهندسی سنجیدند. مطابق پژوهش منتشرشده در نشریه مهندسی روابط، عملکرد مدل‌ها تقریباً در حد حدس تصادفی بود. مدل‌هایی که در استدلال بصری عمومی امتیاز خوبی داشتند، نمی‌توانستند نتیجه شبیه‌سازی را تفسیر کنند.
اگر هوش مصنوعی نتواند کار را بررسی کند، شخص یا سامانه دیگری باید این وظیفه را بر عهده بگیرد. ریک گولاتی، بنیان‌گذار و مدیرعامل بلو چیپ، شرکتی را برای همین منظور ایجاد می‌کند. این شرکت خود را فعال در «گواهی‌سازی عددی» معرفی می‌کند و هدفش بررسی تکرارپذیری و اعتبار فیزیکی نتایج شبیه‌سازی است.
گولاتی می‌گوید: رایانه ممکن است به شما بگوید معادلات کاملاً حل شده‌اند، در حالی که فیزیک مسئله همچنان می‌تواند اشتباه باشد.
از سپتامبر تا اوایل اکتبر، تیم او شش اصلاحیه برای مشکلات شناسایی‌شده در کد اس یو2 به نگهدارندگان پروژه ارسال کرد و هر شش مورد در نسخه توسعه اس یو2 ادغام شدند. اس یو2، نرم‌افزاری رایگان و متن‌باز است؛ همه می‌توانند از آن استفاده کنند و تغییر پیشنهاد دهند، اما گروه کوچکی از نگهدارندگان درباره پذیرش تغییرات تصمیم می‌گیرد.
دو اصلاحیه به تأیید نیسو بیشویزن و پدرو گومز، اعضای هیئت‌مدیره بنیاد اس یو2، رسید؛ سازمانی غیرانتفاعی در هلند که اکنون نگهداری کد را بر عهده دارد. اس یو2، ابتدا در آزمایشگاه طراحی هوافضای استنفورد آغاز شد و نام بلوچیپ اکنون در فهرست مشارکت‌کنندگان پروژه دیده می‌شود.
صنعت هوافضا از پیش این مشکل را می‌شناخت
در سال ۲۰۱۴، تیمی با حمایت مالی ناسا و با حضور مهندسان بوئینگ، استنفورد، ام.ای.تی و پرت‌اندویتنی، دینامیک سیالات محاسباتی یا سی.اف.دی را بررسی کرد؛ همان نوع شبیه‌سازی که اس یو2 انجام می‌دهد. آن‌ها از بیش از ۱۵۰ نفر که روزانه با این ابزار کار می‌کردند نظرسنجی کردند. گزارش چشم‌انداز س.اف.دی در سال ۲۰۳۰ نتیجه گرفت که س.اف.دی هنوز آن‌قدر پیش‌بینی‌پذیر و خودکار نیست که کاربران غیرمتخصص بتوانند در تصمیم‌های مهم و حساس مهندسی به آن اتکا کنند. به بیان ساده، نمی‌شد برای مهم‌ترین تصمیم‌ها صرفاً به شبیه‌سازی اعتماد کرد.
همان گزارش می‌گفت روش‌های رسمی راستی‌آزمایی و اعتبارسنجی از قبل وجود دارند، اما در صنعت هوافضا به‌طور گسترده به کار گرفته نمی‌شوند.
مهندسان مدت‌ها پیش از ظهور هوش مصنوعی، بدون تأیید مستقل بر اساس نتایج شبیه‌سازی تصمیم می‌گرفتند. خطایی مانند مورد اس یو2 دقیقاً از همان نوع اشتباهاتی است که در چنین شرایطی نادیده می‌ماند. هوش مصنوعی این عادت را پرهزینه‌تر می‌کند، زیرا تیمی که قبلاً چند طرح را دستی آزمایش می‌کرد، اکنون می‌تواند در یک بعدازظهر ده‌ها طرح بسازد. همه آن‌ها ظاهری کامل دارند، خواه بررسی شده باشند یا نه.
مطالعه ناسا دوازده سال پیش درباره صنعتی انجام شد که نهادهای نظارتی ایمنی و سال‌ها آزمایش پروازی دارد. اگر حتی صنعتی که بیشترین انگیزه را برای بررسی شبیه‌سازی‌هایش دارد از ابزارهای موجود به‌خوبی استفاده نمی‌کرد، انتظار عملکرد بهتر از یک تولیدکننده کوچک یا استارتاپ دشوار است.
تمام این مسائل پیش از آن بود که هوش مصنوعی تولید انبوه طرح‌ها را آغاز کند. انجمن مهندسان مکانیک آمریکا (آ.اس.ام.ای) اکنون کمیته‌ای برای تدوین استانداردهای اعتبارپذیری هوش مصنوعی و یادگیری ماشین در مدل‌سازی دارد، اما هنوز استانداردی در این زمینه منتشر نکرده است.
پاسخ‌های اشتباه هوش مصنوعی ظاهری کامل دارند
یکی از مشکلاتی که بلو چیپ پیدا کرد، کنترل ایمنی‌ای بود که در کد نوشته شده بود، اما در عمل هرگز اجرا نمی‌شد. سازوکار حفاظتی روی کاغذ وجود داشت؛ چون هیچ هشداری درباره غیرفعال بودن آن داده نمی‌شد، کسی متوجه نشده بود.
گولاتی گفت: ساختن طرح‌ها ارزان می‌شود و اثبات کارآمدی آن‌ها به بخش کند و پرهزینه تبدیل می‌شود. ما روی همین بخش کار می‌کنیم.
کسب‌وکار کوچک شاید شبیه‌سازی سیالات انجام ندهد، اما هر هفته با همان مسئله مواجه می‌شود: چت‌بات قیمت سال گذشته را به مشتری اعلام می‌کند؛ پیشنهاد تجاری تهیه‌شده با هوش مصنوعی مدت ضمانتی را وعده می‌دهد که شرکت دیگر ارائه نمی‌کند؛ یا پیش‌بینی نقدینگی مبتنی بر داده‌های کپی‌شده از صفحه‌گسترده، بی‌سروصدا ردیف‌هایی را که درست منتقل نشده‌اند حذف می‌کند. هیچ‌کدام هشدار نمی‌دهند و همگی دقیقاً شبیه پاسخ درست به نظر می‌رسند.
بررسی نتایج به یک دلیل ساده اختیاری به نظر می‌رسد: هزینه بررسی امروز در تقویم کاری افراد دیده می‌شود، اما هزینه خطا بعدها ظاهر می‌شود؛ معمولاً به شکل مشتری‌ای که بی‌سروصدا می‌رود یا عددی که هنگام تنظیم مالیات کسی نمی‌تواند توضیحش دهد. صاحبان کسب‌وکار زیر فشار زمان، هزینه‌ای را می‌پردازند که اکنون می‌بینند.
ظاهر خروجی نیز از اعتبار ابزار وام می‌گیرد. جدول مرتب، پاراگراف مطمئن و جمع کل ظاهراً درست، حس کار تمام‌شده می‌دهند و کار تمام‌شده معمولاً کسی را به بررسی دوباره دعوت نمی‌کند.
مهم‌ترین ویژگی یک بررسی خوب این است که از همان منبع تولید پاسخ نیاید. اینکه از یک مدل بپرسیم آیا پاسخ خودش درست است، راستی‌آزمایی محسوب نمی‌شود؛ اما مقایسه قیمت پیشنهادی آن با فهرست واقعی قیمت‌ها، بررسی مستقل است. بلو چیپ نیز پیشنهاد خود را بر جداسازی محاسبه از راستی‌آزمایی بنا کرده تا هیچ‌یک تأییدکننده خودش نباشد.
مدل‌ها کد درست می‌نویسند، اما ممکن است اصل مسئله را درک نکنند
کارنگی ملون بررسی کرد آیا هوش مصنوعی می‌تواند نتایج شبیه‌سازی را بخواند. در سپتامبر، جورجیا تک بررسی کرد که آیا می‌تواند خود شبیه‌سازی را بنویسد. پژوهشگران از ابزارهای کدنویسی هوش مصنوعی خواستند ۵۰ شبیه‌سازی فیزیکی، از جمله جریان مایعات و ریختن شن، بنویسند. طبق یک پیش‌چاپ که هنوز داوری علمی نشده، دو ابزار برتر از نظر درستی عددی در هر ۵۰ آزمون موفق بودند. نقطه ضعف آن‌ها سرعت بود: تنها در حدود یک‌پنجم وظایف، کد تولیدی هوش مصنوعی دست‌کم ۹۰ درصد سرعت نسخه‌های بهینه‌شده به دست متخصصان انسانی را داشت.
پس ماشین‌ها می‌توانند کد فیزیکی درست تولید کنند، اما مدل‌های مطالعه کارنگی ملون هنوز نمی‌توانستند با دیدن نتیجه یک شبیه‌سازی تشخیص دهند که آیا پاسخ معقول است یا خیر؛ و تصمیم تجاری دقیقاً به همین قضاوت وابسته است.
مشخص کنید کدام خروجی‌های هوش مصنوعی را نمی‌توانید بررسی کنید
ابتدا همه بخش‌های کسب‌وکار را که هوش مصنوعی در تصمیم‌گیری آن‌ها نقش دارد فهرست کنید. سپس مقابل هر مورد بنویسید چگونه می‌فهمید پاسخ اشتباه است. پاسخ باید عینی باشد؛ مثلاً عددی برای مقایسه یا فردی که متوجه خطا می‌شود.
احتمالاً بسیاری از خانه‌های این فهرست خالی می‌مانند و خطر دقیقاً در همین موارد نهفته است. حضور انسان در چرخه تصمیم‌گیری یک مرحله تشخیص خطاست. فردی که خروجی هوش مصنوعی را بازبینی می‌کند باید اشتباهات را پیش از تبدیل شدن به تصمیم شناسایی کند.
سپس از میان این تصمیم‌ها، موردی را که بیشترین ارزش مالی دارد انتخاب کنید و در همین فصل یک روش کنترل برای آن بسازید. مثلاً اگر هوش مصنوعی قیمت پیشنهادی تهیه می‌کند، می‌توان از فردی خواست ماهانه پنج مورد را دستی دوباره محاسبه کند و مجموع‌ها را مقایسه کند. سنجش بازده سرمایه‌گذاری هوش مصنوعی تنها وقتی معنا دارد که خروجی آن از ابتدا درست بوده باشد؛ مرحله‌ای که بسیاری از صاحبان کسب‌وکار از آن می‌گذرند، چون خروجی ظاهری کامل دارد.
مهندسی که روی کاری متوقف‌شده به دست زمان‌بند رایانشی پیام «تمام معیارهای همگرایی برآورده شدند» را می‌دید، دلایل کافی برای باور آن داشت. پیام مستقیماً از نرم‌افزار می‌آمد و نرم‌افزار ظاهراً همان کاری را می‌کرد که برایش ساخته شده بود. کشف خطا نیازمند کسی بود که حاضر باشد به نتیجه‌ای ظاهراً بی‌اشکال شک کند.
گولاتی می‌گوید: فکر می‌کنم مردم به‌زودی کشف خواهند کرد که هوش فراوان است، اما قضاوت قابل‌اعتماد به‌شدت کمیاب است.
انتهای پیام/
