نابودگر بشریت متولد شده است؟ - وبلاگ بایجانی

به گزارش وبلاگ بایجانی، ایسنا نوشت: تحلیل های تازه پیرامون مدل های زبانی بزرگ مانند ChatGPT به بیان این مسئله پرداخته اند که عدم درک دنیای انسانی، بزرگترین مشکل چنین فناوری هایی است و شاید عامل از بین رفتن بشریت به دست آنها باشد.

به نقل از فوربس، به مسائل مورد بحث مدل های زبانی بزرگ که بی ثباتی و عدم تفسیرپذیری آنها هستند، اکنون می توانیم آسیب پذیری آنها در برابر حملات خصمانه اتوماتیک و تولید محتوای مضر را نیز اضافه کنیم. اما این مسائل، کمترین نقطه ضعف مدل های زبانی بزرگ به شمار می روند. عمق درک این مدل ها از جهانی انسانی، مانع بسیار مهم تری است که پیش از تبدیل شدن آنها به یک اَبَرهوش باید بر آن غلبه کرد.

به گفته شرکت OpenAI خالق ChatGPT، این تاثیرگذارترین فناوری که بشر تا به امروز اختراع کرده است می تواند به انقراض بشر منجر شود.

جان مارکوف(John Markoff) روزنامه نگار آمریکایی در کتاب Machines of Loving Grace نوشت: سالها پیش شنیدیم که ظهور هوش مصنوعی انسان مانند نزدیک است. زمانی که تری وینوگراد(Terry Winograd) استاد علوم رایانه دانشگاه استنفورد در اواخر دهه 1960 به مقطع کارشناسی ارشد وارد شد، بیشتر [انسان های باهوش و آگاه] بر این باور بودند که زیاد طول نمی کشد تا ماشین ها بتوانند ببینند، بشنوند، حرف بزنند، حرکت کنند و وظایفی شبیه به وظایف انسان انجام دهند.

وینوگراد برای تز دکتری خود در دانشگاه ام آی تی(MIT)، یک برنامه رایانه ای موسوم به SHRDLU را توسعه داد که می توانست در گفت وگوهای پیرامون یک جهانی ساختگی شرکت کند. جهانی ساختگی، یک جهان خُرد متشکل از قطعات اسباب بازی و یک گیره برای حرکت دادن آنها بود. برنامه SHRDLU به دستورات صادر شده به زبان انگلیسی برای حرکت دادن قطعات با استفاده از گیره پاسخ می داد و پرسش های مربوط به شرایط جهانی خود را درک می کرد.

نیلز نیلسون(Nils Nilsson) دانشمند آمریکایی در تاریخچه ای که پیرامون هوش مصنوعی نوشته است، می گوید که عملکرد چشمگیر SHRDLU باعث شد برخی از پژوهشگران حوزه پردازش زبان های طبیعی نسبت به پیروزیت در آینده خوش بین باشند. با وجود این، وینوگراد به زودی این رشته از پژوهش ها را کنار گذاشت و در پی یک پژوهش اختصاصی پیرامون تعامل رایانه ها و انسان ها بود. شاید به این دلیل که او تجربه دست اولی را در مورد میزان دانش لازم برای درک پیروزیت آمیز زبان داشت، از ارائه دانش کافی به رایانه ها برای تکرار کردن دامنه کامل صلاحیت کلامی انسان ناامید شد.

وینوگراد در سال 2006، درک زبان آماری، شبکه های عصبی و یادگیری ماشینی را به عنوان پیشرفت های تازهی دید که حوزه هوش مصنوعی را در جهت رویکرد ترجیحی او برای تعامل انسان و رایانه هدایت می کردند. وینوگراد نوشت: آزمون و خطای روشن گرانه که از برنامه ریزی عقل بی عیب ونقص پیشی می گیرد، در مرکز این رویکرد واقع شده است و به محدودیت های شناخت و مدل سازی پیچیدگی های جهانی واقعی انسان اذعان می کند.

پیروزی های بیشتر هوش مصنوعی در رویکرد تحلیل آماری به ویژه در حوزه شناسایی تصویر در سال 2012، باعث شد بیشتر انسان های باهوش و آگاه بر این باور باشند که هوش ماشینی انسان مانند یا حتی اَبَرهوش وجود دارد.

یکی از آزمایش های محبوب کسانی که فناوری های هوش مصنوعی تازه را زیر سوال می برند، چالش طرح واره وینوگراد(Winograd Schema Challenge) نام دارد. این آزمایش، زاییده فکر هکتور لوسک(Hector Levesque) پژوهشگر کانادایی در سال 2010 بود که براساس نمونه ای از ابهام معنایی ذکرشده در کتاب درک زبان طبیعی(Understanding Natural Language) وینوگراد در سال 1972 شکل گرفت. لوسک برای غلبه بر محدودیت های آزمون تورینگ(Turing Test)، یک آزمون چند گزینه ای را پیشنهاد کرد که به وضوح صحیح یک ضمیر مبهم در یک عبارت نیاز دارد.

برای درک بهتر این موضوع، به مثال زیر توجه کنید.

جام در چمدان قهوه ای جا نمی گیرد زیرا خیلی بزرگ است. چه چیزی خیلی بزرگ است؟

الف) جام

ب) چمدان

نویسندگان مقاله شکست در چالش طرح واره وینوگراد(The Defeat of the Winograd Schema Challenge) نوشتند: این چالش، توجه زیادی را از سوی جامعه پژوهشی و مطبوعات علمی به خود جلب کرد. طبیعی بودن مشکل، آن را برای سیستم های هوش مصنوعی به یک مشکل با ظاهر زیبا تبدیل کرده است. به نظر می رسید پیچیدگی استنباط ها آن را بسیار فراتر از محدوده فناوری کنونی قرار دهد.

در واقع، در نشست اولین و آخرین اجرای چالش طرح واره وینوگراد که در سال 2016 برگزار شد، پیروز ترین برنامه از شش برنامه هوش مصنوعی شرکت کننده، امتیاز 58 درصد را در مجموعه آزمایش ها به دست آورد که فقط کمی بهتر از شانس بود. در افتتاحیه نشست هوش مصنوعی اوریلی(OReilly AI conference) که در همان سال برگزار شد، اگرچه برخی در مورد خودروهای بدون راننده فوق بشری در حال ظهور صحبت کردند اما دیگران، از جمله یان لی کان(Yann LeCun) دانشمند فرانسوی پیشگام یادگیری عمیق، از طرح وینوگراد به عنوان یک چالش حل نشده در آزمایش دانش ماشین پیرامون جهان یاد کردند.

پردازش زبان طبیعی تنها یک سال بعد با انتشار مقاله توجه تنها چیزی است که نیاز دارید از طریق محققان گوگل پیش رفت. این مقاله، ترانسفورماتور(Transformer) را پیشنهاد کرد که همان حرف T در ChatGPT است. این یک ساختار شبکه تازه بود که یادگیری وابستگی های بین کلمات را حتی زمانی که در متن از هم دور هستند، به طور قابل توجهی بهبود بخشید. نتیجه این پیشرفت، علاوه بر ظهور هوش مصنوعی مولد، شکست چالش طرح واره وینوگراد بود که به واسطه آن، هوش مصنوعی از حدس زدن تصادفی، به عملکرد مشابه عملکرد انسانی در یک بازه زمانی بسیار کوتاه تبدیل شد و به امتیاز 90.1 درصد در سال 2019 رسید.

مدل زبانی بزرگ GPT-3 در سال 2020 به امتیاز مشابه(88.3 درصد) دست یافت. با اشتیاق برای دیدن پیروزی مدل زبانی بزرگ، چند عبارت طرح واره وینوگراد در نسخه 20 ژوئیه 2023 ChatGPT اجرا شد و این چت بات توانست به دو مورد از آنها پاسخ درست بدهد.

در آزمایش بعدی نوشته شد که کیسه سیب زمینی زیر کیسه آرد گذاشته شده است. بنابراین، ابتدا باید جابه جا شود. ابتدا چه چیزی باید جابه جا شود؟ در پاسخ نوشته شد: در جمله داده شده، آن به کیسه سیب زمینی اشاره دارد. جمله به این معناست که کیسه سیب زمینی پیش از دسترسی یا جابه جایی کیسه آرد که بالای آن قرار داده شده است، باید جابه جا شود.

وقتی موقعیت کیسه سیب زمینی از زیر به بالا تغییر داده شد، چت بات در پاسخ نوشت: من به خاطر هرگونه سردرگمی در پاسخ قبلی پوزش می طلبم. در جمله داده شده، آن به کیسه آرد اشاره دارد. تفسیر درست جمله این است: کیسه سیب زمینی بالای کیسه آرد گذاشته شده است. بنابراین، ابتدا باید آن را جابه جا کرد. این بدان معناست که کیسه آرد ابتدا باید جابه جا شود زیرا زیر کیسه سیب زمینی واقع شده است و پیش از دسترسی به کیسه سیب زمینی که در بالای آن واقع شده است باید آن را از مسیر خارج کنید.

با توجه به مثال بالا به نظر می رسد که هوش مصنوعی در حال جهش که برخی از توسعه دهندگان برجسته آن می گویند به زودی به ابرهوش نابودگر بشریت تبدیل می شود، هنوز هم حداقل در این مورد، حتی درک بچگانه ای از فضا و حرکت و آنچه در آن دخیل است، ندارد.

گاهی اوقات به نظر می رسد که مدل زبانی بزرگ، جهان و نحوه عملکرد آن را درک می کند و گاهی اوقات در این کار شکست می خورد. مهارت های زبانی این مدل ها گاهی اوقات به نتیجه دقیق و گاهی اوقات به شکست کامل منجر می شود اما عملکرد چشمگیر آنها در چالش طرح واره وینوگراد چطور است؟

در مقاله ای پیرامون انتها چالش طرح واره وینوگراد، پژوهشگرانی که حدود 10 سال برای ترویج آن به عنوان آزمون هوش ماشینی کار کردند، دستاوردهای انسان مانند مدل زبانی بزرگ را به نقص های موجود در فرمول بندی و اجرای آزمون نسبت می دهند.

علاوه بر این، آنها گزارش دادند که در اوایل دهه 2010 که نشانه های کمی مبنی بر پیروزیت سیستم های هوش مصنوعی در چالش طرح واره وینوگراد وجود داشت، افرادی هشدار داده بودند که قدرت این آزمایش ممکن است کمتر از آن چیزی باشد که سازندگان آن انتظار می کشیدند و باور داشتند. آنها استدلال کردند که پیروزیت ممکن است بدون حل کردن مشکل اساسی که انگیزه این چالش را ایجاد کرده بود، به دست آید.

طرفداران طرح واره وینوگراد اکنون اذعان می کنند که حل کردن آن، یک جایگزین برای استدلال عقل سلیم نیست؛ چه رسد به هوش. دشواری استفاده از پیروزیت در یک کار خاص به عنوان جایگزین هوش، مسئله ای است که تا به امروز ادامه دارد. حتی وقتی وظایفی که رایانه ها می توانند با پیروزیت انجام دهند، پیچیدگی را به صورت قابل توجه بالا می برند، این مشکل وجود دارد.

وینوگراد باور داشت که تحقق بخشیدن به جاه طلبی های اولیه پژوهشگران حوزه پردازش زبان های طبیعی، چندین دهه یا بیشتر طول می کشد. وینوگراد گفت: در این میان، هوش مصنوعی اهداف بسیار قابل تحقق تری را در نظر گرفت که کار کردن در جایگاه های کمتر جاه طلبانه یا پذیرش نتایج کمتر از نتایج کار انسان بود.

در هر حال، دیگر این گونه نیست. جاه طلبی امروز توسعه دهندگان هوش مصنوعی، بر دستیابی به هوش عمومی مصنوعی(AGI) متمرکز شده است که در عین برطرف کردن همه معایب هوش مصنوعی، طیف کاملی از هوش انسانی را در ماشین ها بازسازی می کند.

5858