چگونه یادگیری AI تفکر تحلیلی و حل مسئله کودکان را تقویت میکند؟
هیچکس کامل نیست، نه حتی رباتها
این جمله را شنیدهای: «همه جایزالخطا هستند.»
یعنی هیچکس در این دنیا نیست که هیچ وقت اشتباه نکند. معلمت اشتباه میکند. پدر و مادرت اشتباه میکنند. حتی دکترها و مهندسها هم اشتباه میکنند.
حتی باهوشترین انسانهای روی کرهی زمین هم گاهی تصمیمهای غلط میگیرند.
حالا یک سوال: اگر انسانها اشتباه میکنند، چرا انتظار داریم ماشینها همیشه درست کار کنند؟
هوش مصنوعی را انسانها ساختهاند. انسانهای خطاکار. پس طبیعی است که هوش مصنوعی هم گاهی اشتباه کند.
اما جالبترین بخش این ماجرا این است: اشتباهات هوش مصنوعی میتوانند خیلی چیزها به ما یاد بدهند.
سه مدل اشتباه عجیب که رباتها مرتکب میشوند
هوش مصنوعی اشتباه میکند. اما اشتباهاتش با اشتباهات انسان فرق دارد. گاهی اشتباهاتش خندهدار هستند، گاهی عجیب، گاهی ترسناک.
در ادامه سه نمونه از عجیبترین اشتباهات هوش مصنوعی را میخوانی.
نمونه اول: گربهای که گیربکس شد
سال ۲۰۱۵، گوگل یک سیستم هوش مصنوعی ساخته بود که میتوانست عکسها را دستهبندی کند. به آن هزاران عکس نشان دادند. عکس گربه، عکس سگ، عکس ماشین، عکس هواپیما.
آزمایش که انجام شد، نتیجه عجیب بود. سیستم با دقت بالایی گربهها را تشخیص میداد. اما یک مشکل کوچک داشت: بعضی وقتها عکس یک گیربکس ماشین را هم به عنوان گربه تشخیص میداد!
چطور ممکن است؟ گیربکس که هیچ شکلی به گربه ندارد.
بعد از تحقیق، دانشمندها فهمیدند قضیه چیست. در عکسهایی که به سیستم نشان داده بودند، بیشتر عکسهای گربه، زمینهی سبز داشتند (چمن، باغچه، پارک). گیربکس هم در عکسهایی که به سیستم نشان داده بودند، زمینهاش سبز بود (کارگاه، انبار). سیستم به جای اینکه شکل گربه را یاد بگیرد، رنگ زمینه را یاد گرفته بود!
نمونه دوم: قطاری که هرگز به مقصد نرسید
یک شرکت قطارهای خودران ساخته بود. قطارهایی که بدون راننده حرکت میکردند و خودشان تصمیم میگرفتند کی حرکت کنند، کی ترمز کنند، کی بایستند.
اوایل همه چیز خوب بود. اما بعد از مدتی، قطارها رفتار عجیبی پیدا کردند. سرِ یک ایستگاه خاص، همیشه ترمز میکردند و دیگر حرکت نمیکردند. هیچ دلیلی نداشت. ایستگاه تمیز بود، جاده باز بود، خط آهن سالم بود.
بعد از هفتهها بررسی، دانشمندها فهمیدند: یک روز که هوا خیلی گرم بود، یک کیسه زباله کنار خط آهن افتاده بود و باد آن را تکان میداد. سیستم قطار «تکان خوردن کیسه» را با «حرکت یک موجود زنده» اشتباه گرفته بود و برای جلوگیری از برخورد، ترمز کرده بود. بعد هم آن ایستگاه را در حافظهاش ذخیره کرده بود به عنوان «ایستگاه خطرناک».
نمونه سوم: الگوریتمهایی که نژادپرست شدند
این یکی تلخترین نمونه است.
سالها پیش، یک شرکت آمریکایی سیستمی ساخت که با استفاده از هوش مصنوعی، متقاضیان کار را ارزیابی میکرد. سیستم باید تشخیص میداد کدام افراد برای شغل مناسبترند.
اما بعد از مدتی، دانشمندها متوجه یک مشکل بزرگ شدند: سیستم به طور سیستماتیک، زنان را رد میکرد!
چرا؟ چون دادههایی که به سیستم آموزش داده بودند، از سالهای گذشته بود. در آن سالها، مردان بیشتری در آن شرکت مشغول به کار بودند. سیستم یاد گرفته بود: «متقاضی ایدهآل = مرد.»
این یعنی هوش مصنوعی میتواند تعصبهای انسانها را یاد بگیرد و حتی آنها را بزرگتر کند.
ریشه اشتباهات: هوش مصنوعی مثل یک کودک است
همهی این اشتباهات از یک جا ریشه میگیرند: هوش مصنوعی مثل یک کودک است.
کودک را در نظر بگیر. اگر به او بگویی «آب گرم یعنی آب خطرناک»، بعداً وقتی یک لیوان آب جوش ببیند، از آن دوری میکند. اما اگر یک لیوان آب خنک ببیند، ممکن است به آن دست بزند. چون هنوز فرق بین آب گرم و آب داغ را یاد نگرفته است.
هوش مصنوعی هم همینطور است. از روی نمونههایی که به آن نشان میدهی، یاد میگیرد. اگر نمونههایت ناقص باشند، یادگیری هوش مصنوعی هم ناقص خواهد بود.
اگر به هوش مصنوعی فقط عکس گربه روی چمن نشان دهی، فکر میکند هر چیزی که روی چمن است گربه است.
اگر به هوش مصنوعی فقط خروجیهای درست نشان دهی، هیچوقت یاد نمیگیرد چطور اشتباهات را تصحیح کند.
اگر دادههایت از یک گروه خاص باشد، هوش مصنوعی بقیهی گروهها را نادیده میگیرد.
به همین دلیل است که میگویند: «زباله برو، زباله بیا.» یعنی اگر به هوش مصنوعی اطلاعات غلط بدهی، جواب غلط هم میگیری.
اشتباهات هوش مصنوعی چه درسی به ما میدهند؟
تا اینجا فهمیدی که هوش مصنوعی اشتباه میکند. اما شاید مهمتر از خود اشتباهات، درسهایی است که از آنها میگیریم.
درس اول: به خروجی هوش مصنوعی صد در صد اعتماد نکن
هوش مصنوعی ابزاری قوی است، اما معصوم نیست. همیشه جوابهایش را با منابع دیگر چک کن.
اگر از هوش مصنوعی برای انجام تکالیف مدرسه کمک گرفتی، حتماً جوابها را با کتاب درسی یا نظر معلمت مقایسه کن.
اگر هوش مصنوعی به تو گفت «این قارچ خوراکی است»، هرگز بدون تحقیق آن را نخور. جان تو ارزش بیشتری از یک جواب هوش مصنوعی دارد.
درس دوم: هیچوقت به هوش مصنوعی یاد نده چیزهایی که نمیخواهی یاد بگیرد
این شبیه همان داستان تعصب نژادی است. اگر به هوش مصنوعی اطلاعات یک طرفه بدهی، یک طرفه فکر میکند.
مسئولیت تو به عنوان کسی که از هوش مصنوعی استفاده میکند، فقط گرفتن جواب نیست. تو باید مراقب باشی چه دادهای به هوش مصنوعی میدهی، چون همان دادهها، آیندهی تصمیمهای آن را میسازند.
درس سوم: اشتباه کردن عیب نیست، تکرار اشتباه عیب است
هوش مصنوعی از اشتباهاتش یاد میگیرد. تو هم باید همین کار را بکنی.
بزرگترین دانشمندان جهان بارها و بارها اشتباه کردهاند. توماس ادیسون، مخترع لامپ، دههزار بار قبل از موفقیت اشتباه کرد. وقتی از او پرسیدند «چطور دههزار بار شکست را تحمل کردی؟» گفت: «من شکست نخوردم. من دههزار راه پیدا کردم که کار نمیکند.»
هوش مصنوعی دقیقاً با همین طرز فکر ساخته شده است. بارها و بارها تلاش کن، از اشتباهاتت یاد بگیر، و بهتر شو.
سوالی که هیچکس جوابش را نمیداند
تا اینجا همهچیز واضح بود. هوش مصنوعی ابزاری است که اشتباه میکند و ما از اشتباهاتش یاد میگیریم.
اما یک سوال بزرگ هست که هیچکس جواب قطعی برایش ندارد: اگر روزی هوش مصنوعی از اشتباهات خودش آگاه شود، چه اتفاقی میافتد؟
بعضی از دانشمندان میگویند این اتفاق ممکن است هرگز نیفتد. هوش مصنوعی شبیه مغز انسان نیست و هیچوقت شبیه آن نخواهد شد.
بعضی از دانشمندان میگویند شاید روزی این اتفاق بیفتد، اما خیلی دور است. شاید صد سال دیگر.
بعضی از دانشمندان هم میگویند این اتفاق خیلی نزدیک است. شاید ده سال دیگر.
اما یک چیزی را تقریباً همه قبول دارند: اگر روزی هوش مصنوعی بتواند اشتباهاتش را بفهمد، دیگر نمیتوانی به آن بگویی «ابزار». در آن روز، باید اسم دیگری برایش پیدا کنی.
فعلاً که چنین روزی نرسیده. پس تا آن روز، بیا از هوش مصنوعی استفاده کنیم برای یاد گرفتن، برای خلاقیت، برای بهتر شدن. اما هیچوقت فراموش نکنیم که او فقط یک ابزار است و ما هستیم که تصمیم میگیریم چطور از آن استفاده کنیم.
پست های مرتبط
۲۸ خرداد ۱۴۰۵
۲۷ خرداد ۱۴۰۵
دیدگاهتان را بنویسید