هوش مصنوعی عمق دانش را کمتر می‌کند و این موضوع قابل بحث است؛
هوش مصنوعی؛ فرصت یا تهدید
این مطلب به بررسی اثرات این تغییر، مخاطرات پنهان آن، و راهکارهایی برای حفظ توانمندی‌های انسانی در عصر فناوری هوشمند می‌پردازد.
یک سوال اشتباه
مساله اصلی این نیست که هوش مصنوعی شغل‌ها را از بین می‌برد، بلکه بی‌سروصدا مراحل یادگیری و مهارتی را که قبلا برنامه‌نویسان برای تسلط بر کارشان طی می‌کردند، حذف می‌کند. این تاثیرات شاید در نمودارهای سرعت یا برنامه‌های کاری دیده نشوند، اما زمانی خودشان را نشان می‌دهند که دیگر کسی نداند کد واقعا چگونه کار می‌کند.
در آزمایش‌های عملی میان تیم‌های مهندسی، یک الگوی مشخص دیده می‌شود: بهره‌وری بالا رفته، اما درک عمیق کاهش یافته است. برنامه‌نویسان از بخش سخت و چالش‌برانگیز مسیر عبور می‌کنند؛ همان جایی که مهارت‌ها شکل می‌گیرند. درحالی‌که همین بخش، زمانی برای تبدیل یک کدنویس خوب به یک مهندس برجسته حیاتی بود.
عبور از مراحل یادگیری به قیمت کاهش درک عمیق
امروزه برنامه‌نویسان تازه‌کار با کمک ابزارهای هوش مصنوعی می‌توانند از همان روزهای نخست کدهای قابل اجرا بنویسند. اما پنج سال آینده که به سمت‌های «ارشد» برسند، آیا می‌توانند همان کدها را توسعه دهند، اصلاح کنند یا حتی درک درستی از ساختار آن داشته باشند؟
در یکی از آزمایش‌های صورت گرفته، یک نمونه اولیه رابط کاربری با استفاده از ابزارهای هوش مصنوعی، ظرف کمتر از ۴۸ ساعت از طراحی در «فیگما» (ابزار طراحی رابط کاربر) به کد اجرایی تبدیل شد. سرعت کار چشم‌گیر بود. اما وقتی تیم تلاش کرد آن کد را توسعه دهد یا اشکال‌زدایی کند، مشخص شد که برنامه‌نویسی که آن را ساخته، درک کاملی از ساختار ندارد. تصمیم‌های کلیدی را مدل هوش مصنوعی گرفته بود، نه انسان. برنامه‌نویس نمی‌توانست منطق پشت کد را دنبال کند یا معماری آن را توضیح دهد، چون خودش آن را ننوشته بود.
یک تیم دیگر از جی‌پی‌تی برای تولید تست‌های واحد جامع استفاده کرد. اما وقتی از آنها درباره برخی موارد تست و دلیل وجودشان سوال شد، نتوانستند توضیحی بدهند. کد بدون مشکل اجرا شد، اما هیچ‌کس دقیقا نمی‌دانست چه چیزی بررسی شده یا چرا آن شرایط اهمیت داشته.
بخش میانی منحنی یادگیری - جایی که برنامه‌نویسان با آزمون و خطا، شهود و درک عمیق پیدا می‌کردند - در حال حذف شدن توسط اتوماسیون است.
این پدیده را «فشردگی رشد» می‌نامیم. و خطر آن کاملا روشن است: نسلی از مهندسان که می‌توانند دستور بدهند، ویرایش کنند و پروژه را اجرا کنند، اما واقعا نمی‌دانند پشت صحنه چه می‌گذرد.
این وضعیت باعث نوعی تنش درونی هم شده است. مهندسان ارشد بیشتر به نقش بازبینی‌کننده کشیده می‌شوند. دلیلش این نیست که تازه‌کارها بلد نیستند کدنویسی کنند، بلکه چون هیچ‌کس واقعا نمی‌داند هوش مصنوعی چه نوشته است. در همین حال، برنامه‌نویسان جوان کمتر درخواست کمک می‌کنند، چون پاسخ‌های هوش مصنوعی سریع‌تر و بدون نقد و بررسی هستند. به این ترتیب، فرآیند راهنمایی و مربیگری آرام آرام از بین می‌رود و جای خود را به پیشنهادهای چت‌بات‌هایی می‌دهد که اصول را آموزش نمی‌دهند، فقط الگوها را نشان می‌دهند.
وقتی نقش مهندسان ارشد به تاییدکننده محتوای تولیدشده توسط هوش مصنوعی تقلیل پیدا می‌کند - نه مربی یا معمار پروژه - خطر فرسودگی و بی‌انگیزگی آنها بالا می‌رود. لذت ساختن جای خود را به بار سنگین کنترل کیفیت می‌دهد.
وقتی هوش مصنوعی از خودش یاد می‌گیرد
تنها برنامه‌نویسان نیستند که دچار رکود شده‌اند؛ خود هوش مصنوعی هم به این موضوع دچار شده است. مدل‌های هوش مصنوعی با داده‌های عمومی آموزش می‌بینند؛ مثل مخازن کد، وبلاگ‌ها و تالارهای گفتمان. اما این داده‌ها به‌طور فزاینده‌ای توسط خود هوش مصنوعی تولید می‌شوند. برنامه‌نویسان کدی را که هوش مصنوعی نوشته منتشر می‌کنند، وبلاگ‌ها پر می‌شوند از توصیه‌هایی که مدل‌های زبانی تولید کرده‌اند، و مدل‌ها دوباره همین محتوا را جمع‌آوری می‌کنند.
و این چرخه همین‌طور ادامه پیدا می‌کند. وقتی هوش مصنوعی با داده‌هایی آموزش می‌بیند که خود هوش مصنوعی تولید کرده، نتیجه‌اش عقبگرد است. خروجی‌ها یکنواخت‌تر می‌شوند، خلاقیت کاهش می‌یابد، خطاها روی هم انباشته می‌شوند و سیستم به‌جای پیشرفت، معمولی بودن را تقویت می‌کند.
نشانه‌های اولیه این روند را همین حالا هم دیده‌ایم: ارجاع‌های ساختگی، عبارت‌های تکراری، و پیشنهادهای کدی که «درست به نظر می‌رسند» اما فاقد زمینه و منطق هستند. با کاهش محتوای تولیدشده توسط انسان، مدل‌های هوش مصنوعی نقاط اتکای کمتری خواهند داشت که بر پایه درک تخصصی واقعی بنا شده‌اند. آنها بر اساس تقریب‌هایی از تقریب‌های قبلی آموزش می‌بینند.
این موضوع فقط کیفیت را تحت‌تاثیر قرار نمی‌دهد، بلکه اعتماد را هم خدشه‌دار می‌کند. وقتی هیچ‌کس نمی‌داند چیزی چگونه کار می‌کند، اما همه از آن استفاده می‌کنند، با شکنندگی در مقیاس وسیع روبه‌رو می‌شویم. و زمانی که هوش مصنوعی وارد چرخه تولید شما شود، پیامدهای آن خیلی سریع شدت می‌گیرد.
تغییرات فرهنگی در مهندسی
یکی از پیامدهای ناخواسته ادغام هوش مصنوعی، تاثیر فرهنگی آن است. مهندسی همیشه نوعی مهارت بوده - ترکیبی از منطق، انتخاب‌های سنجیده و تجربه. اما وقتی هوش مصنوعی در این فرآیند واسطه‌گری می‌کند، برخی از حلقه‌های بازخورد حیاتی از بین می‌روند. دیده‌ایم که وقتی هوش مصنوعی وارد جریان کاری برنامه‌نویسان می‌شود، نحوه برخورد آنها با کار تغییر می‌کند. به‌جای اینکه مساله را تحلیل و خرد کنند، مستقیما سراغ نوشتن دستور برای هوش مصنوعی می‌روند.
به‌جای بررسی گزینه‌ها و مصالحه‌ها، فقط به خروجی‌ها تکیه می‌کنند. نتیجه این روند، تحویل سریع‌تر است. اما اغلب با تفکری سطحی‌تر همراه است. این تغییر، بر روابط تیمی، انتظارات استخدامی، روند آموزش نیروهای جدید و نگهداری بلندمدت محصولات تاثیر می‌گذارد. همچنین نگاه برنامه‌نویسان به ارزش کاری خودشان و نحوه ارزیابی سازمان‌ها را دگرگون می‌کند.
ما باور داریم آینده مهندسی نه با توانایی در نوشتن دستور برای دستیار هوش مصنوعی، بلکه با مهارت در هدایت، اصلاح و توسعه خروجی‌های آن تعریف خواهد شد.
توقف پروژه‌ها و دلیل واقعی آن
بر اساس گزارش‌ها، بیش از ۶۰ درصد پروژه‌های مبتنی بر هوش مصنوعی طی سال آینده متوقف می‌شوند. دلیل اصلی، نبود زیرساخت‌های داده‌ای با کیفیت، معماری منسجم و فرآیندهای روشن است، نه توانمندی پایین مدل‌ها. موفقیت آینده حاصل سرمایه‌گذاری در شفافیت ساختاری و فرهنگی است.
هوش مصنوعی نمی‌تواند معماری ناقص را اصلاح کند. نمی‌تواند در جایی که ساختاری وجود ندارد، وضوح ایجاد کند. و از داده‌های بی‌کیفیت هم نمی‌تواند بینش واقعی به‌دست آورد. به همین دلیل، موج بعدی ارزش واقعی هوش مصنوعی نه از خروجی‌های چشم‌گیرتر، بلکه از ورودی‌های قوی‌تر و باکیفیت‌تر خواهد آمد.
ما تمرکز خود را بر تقویت زیرساخت داده‌هایی گذاشته‌ایم که هوش مصنوعی را واقعا مفید می‌سازند؛ یعنی سیستم‌هایی قابل‌اعتماد، منظم و با کیفیت بالا. مهم نیست مدل هوش مصنوعی چقدر پیشرفته باشد، چون بدون داده‌های پاک و دارای زمینه مناسب و محیطی که بتواند در آن به‌درستی عمل کند، هیچ ارزشی ایجاد نخواهد کرد.
شرکت‌هایی که در زمینه هوش مصنوعی موفق خواهند بود، آنهایی نیستند که دموهای پر زرق و برق ارائه می‌دهند، بلکه آنهایی هستند که داده‌های پاک‌تر، فرآیندهای شفاف‌تر و فرهنگ مهندسی دقیق‌تری دارند.
آینده‌ای انسانی‌تر با هوش مصنوعی
راهکار این نیست که روند پیشرفت را کند کنیم، بلکه باید هوش مصنوعی را به‌نحوی انسانی‌تر به‌کار بگیریم؛ یعنی:
ابزارهای موثر را در اختیار مهندسان نرم‌افزار قرار دهیم، البته بدون حذف مسیر رشد.
مربیگری، تفکر تحلیلی و تصمیم‌سازی را حفظ کنیم.
محیط‌هایی بسازیم که در آن فناوری مکمل انسان باشد، نه جایگزین او.
ما می‌توانیم سریع‌تر بسازیم، اما لازم است که بهتر هم بسازیم. کیفیت حاصل پرسشگری، چالش‌پذیری و مسیرهای یادگیری واقعی است؛ همان چیزی که یک مهندس نرم‌افزار را به متخصصی واقعی تبدیل می‌کند.
بیایید مطمئن شویم آینده مهندسی و هوش مصنوعی، منجر به فراموشی تفکر انسانی نخواهد شد.
منبع: European Business Review
