به نقل از «عصر ایران»

نابودگر بشریت متولد شده است؟

تاریخ انتشار: ۱۲ مرداد ۱۴۰۲ | کد خبر: ۳۸۳۷۴۷۶۴

تحلیل‌های جدید پیرامون مدل‌های زبانی بزرگ مانند ChatGPT به بیان این مسئله پرداخته‌اند که عدم درک دنیای انسانی، بزرگترین مشکل چنین فناوری‌هایی است و شاید عامل از بین رفتن بشریت به دست آنها باشد.

به نقل از فوربس، به مشکلات مورد بحث مدل‌های زبانی بزرگ که بی‌ثباتی و عدم تفسیرپذیری آنها هستند، اکنون می‌توانیم آسیب‌پذیری آنها در برابر حملات خصمانه خودکار و تولید محتوای مضر را نیز اضافه کنیم.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

اما این مشکلات، کمترین نقطه ضعف مدل‌های زبانی بزرگ به شمار می‌روند. عمق درک این مدل‌ها از دنیای انسانی، مانع بسیار مهم‌تری است که پیش از تبدیل شدن آنها به یک «اَبَرهوش» باید بر آن غلبه کرد.

به گفته شرکت «OpenAI» خالق «ChatGPT»، این تاثیرگذارترین فناوری که بشر تاکنون اختراع کرده است می‌تواند به انقراض بشر منجر شود.

«جان مارکوف»(John Markoff) روزنامه‌نگار آمریکایی در کتاب «Machines of Loving Grace» نوشت: سالها پیش شنیدیم که ظهور هوش مصنوعی انسان‌مانند نزدیک است. زمانی که «تری وینوگراد»(Terry Winograd) استاد علوم رایانه «دانشگاه استنفورد» در اواخر دهه ۱۹۶۰ به مقطع کارشناسی ارشد وارد شد، بیشتر [انسان‌های باهوش و آگاه] بر این باور بودند که زیاد طول نمی‌کشد تا ماشین‌ها بتوانند ببینند، بشنوند، حرف بزنند، حرکت کنند و وظایفی شبیه به وظایف انسان انجام دهند.

وینوگراد برای تز دکتری خود در دانشگاه «ام‌آی‌تی»(MIT)، یک برنامه رایانه‌ای موسوم به «SHRDLU» را توسعه داد که می‌توانست در گفت‌وگوهای پیرامون یک دنیای ساختگی شرکت کند. دنیای ساختگی، یک جهان خُرد متشکل از قطعات اسباب‌بازی و یک گیره برای حرکت دادن آنها بود. برنامه SHRDLU به دستورات صادر شده به زبان انگلیسی برای حرکت دادن قطعات با استفاده از گیره‌ پاسخ می‌داد و پرسش‌های مربوط به وضعیت دنیای خود را درک می‌کرد.

«نیلز نیلسون»(Nils Nilsson) دانشمند آمریکایی در تاریخچه‌ای که پیرامون هوش مصنوعی نوشته است، می‌گوید که عملکرد چشمگیر SHRDLU باعث شد برخی از پژوهشگران حوزه پردازش زبان‌های طبیعی نسبت به موفقیت در آینده خوش‌بین باشند. با وجود این، وینوگراد به زودی این رشته از پژوهش‌ها را کنار گذاشت و به دنبال یک پژوهش اختصاصی پیرامون تعامل رایانه‌ها و انسان‌ها بود. شاید به این دلیل که او تجربه دست اولی را در مورد میزان دانش لازم برای درک موفقیت‌آمیز زبان داشت، از ارائه دانش کافی به رایانه‌ها برای تکرار کردن دامنه کامل صلاحیت کلامی انسان ناامید شد.

وینوگراد در سال ۲۰۰۶، درک زبان آماری، شبکه‌های عصبی و یادگیری ماشینی را به عنوان پیشرفت‌های جدیدی دید که حوزه هوش مصنوعی را در جهت رویکرد ترجیحی او برای تعامل انسان و رایانه هدایت می‌کردند. وینوگراد نوشت: آزمون و خطای روشن‌گرانه که از برنامه‌ریزی عقل بی‌عیب‌ونقص پیشی می‌گیرد، در مرکز این رویکرد قرار دارد و به محدودیت‌های شناخت و مدل‌سازی پیچیدگی‌های دنیای واقعی انسان اذعان می‌کند.

پیروزی‌های بیشتر هوش مصنوعی در رویکرد تحلیل آماری به ‌ویژه در حوزه شناسایی تصویر در سال ۲۰۱۲، باعث شد بیشتر انسان‌های باهوش و آگاه بر این باور باشند که هوش ماشینی انسان‌مانند یا حتی اَبَرهوش وجود دارد.

یکی از آزمایش‌های محبوب کسانی که فناوری‌های هوش مصنوعی جدید را زیر سوال می‌برند، «چالش طرح‌واره وینوگراد»(Winograd Schema Challenge) نام دارد. این آزمایش، زاییده فکر «هکتور لوسک»(Hector Levesque) پژوهشگر کانادایی در سال ۲۰۱۰ بود که براساس نمونه‌ای از ابهام معنایی ذکرشده در کتاب «درک زبان طبیعی»(Understanding Natural Language) وینوگراد در سال ۱۹۷۲ شکل گرفت. لوسک برای غلبه بر محدودیت‌های «آزمون تورینگ»(Turing Test)، یک آزمون چند گزینه‌ای را پیشنهاد کرد که به وضوح صحیح یک ضمیر مبهم در یک عبارت نیاز دارد.

برای درک بهتر این موضوع، به مثال‌ زیر توجه کنید.

جام در چمدان قهوه‌ای جا نمی‌گیرد زیرا خیلی بزرگ است. چه چیزی خیلی بزرگ است؟

الف) جام

ب) چمدان

نویسندگان مقاله «شکست در چالش طرح‌واره وینوگراد»(The Defeat of the Winograd Schema Challenge) نوشتند: این چالش، توجه زیادی را از سوی جامعه پژوهشی و مطبوعات علمی به خود جلب کرد. طبیعی بودن مشکل، آن را برای سیستم‌های هوش مصنوعی به یک مشکل با ظاهر زیبا تبدیل کرده است. به نظر می‌رسید پیچیدگی استنباط‌ها آن را بسیار فراتر از محدوده فناوری کنونی قرار ‌دهد.

در واقع، در نشست «اولین و آخرین اجرای چالش طرح‌واره وینوگراد» که در سال ۲۰۱۶ برگزار شد، موفق‌ترین برنامه از شش برنامه هوش مصنوعی شرکت‌کننده، امتیاز ۵۸ درصد را در مجموعه آزمایش‌ها به دست آورد که فقط کمی بهتر از شانس بود. در افتتاحیه «نشست هوش مصنوعی اوریلی»(O’Reilly AI conference) که در همان سال برگزار شد، اگرچه برخی در مورد خودروهای بدون راننده فوق بشری در حال ظهور صحبت کردند اما دیگران، از جمله «یان لی کان»(Yann LeCun) دانشمند فرانسوی پیشگام یادگیری عمیق، از طرح وینوگراد به عنوان یک چالش حل‌نشده در آزمایش دانش ماشین پیرامون جهان یاد کردند.

پردازش زبان طبیعی تنها یک سال بعد با انتشار مقاله «توجه تنها چیزی است که نیاز دارید» توسط محققان گوگل پیش رفت. این مقاله، «ترانسفورماتور»(Transformer) را پیشنهاد کرد که همان حرف T در ChatGPT است. این یک ساختار شبکه جدید بود که یادگیری وابستگی‌های بین کلمات را حتی زمانی که در متن از هم دور هستند، به طور قابل توجهی بهبود بخشید. نتیجه این پیشرفت، علاوه بر ظهور هوش مصنوعی مولد، شکست چالش طرح‌واره وینوگراد بود که به واسطه آن، هوش مصنوعی از حدس زدن تصادفی، به عملکرد مشابه عملکرد انسانی در یک بازه زمانی بسیار کوتاه تبدیل شد و به امتیاز ۹۰.۱ درصد در سال ۲۰۱۹ رسید.

مدل زبانی بزرگ «GPT-۳» در سال ۲۰۲۰ به امتیاز مشابه(۸۸.۳ درصد) دست یافت. با اشتیاق برای دیدن پیروزی مدل زبانی بزرگ، چند عبارت طرح‌واره وینوگراد در نسخه ۲۰ ژوئیه ۲۰۲۳ ChatGPT اجرا شد و این چت‌بات توانست به دو مورد از آنها پاسخ درست بدهد.

در آزمایش بعدی نوشته شد که کیسه سیب‌زمینی زیر کیسه آرد گذاشته شده است. بنابراین، ابتدا باید جابه‌جا شود. ابتدا چه چیزی باید جابه‌جا شود؟ در پاسخ نوشته شد: در جمله داده‌ شده، «آن» به کیسه سیب‌زمینی اشاره دارد. جمله به این معناست که کیسه سیب‌زمینی پیش از دسترسی یا جابه‌جایی کیسه آرد که بالای آن قرار داده شده است، باید جابه‌جا شود.

وقتی موقعیت کیسه سیب‌زمینی از «زیر» به «بالا» تغییر داده شد، چت‌بات در پاسخ نوشت: من به خاطر هرگونه سردرگمی در پاسخ قبلی پوزش می‌طلبم. در جمله داده‌ شده، «آن» به کیسه آرد اشاره دارد. تفسیر درست جمله این است: کیسه سیب‌زمینی بالای کیسه آرد گذاشته شده است. بنابراین، ابتدا باید آن را جابه‌جا کرد. این بدان معناست که کیسه آرد ابتدا باید جابه‌جا شود زیرا زیر کیسه سیب‌زمینی قرار دارد و پیش از دسترسی به کیسه سیب‌زمینی که در بالای آن قرار دارد باید آن را از مسیر خارج کنید.

با توجه به مثال بالا به نظر می‌رسد که هوش مصنوعی در حال جهش که برخی از توسعه‌دهندگان برجسته آن می‌گویند به زودی به ابرهوش نابودگر بشریت تبدیل می‌شود، هنوز هم حداقل در این مورد، حتی درک کودکانه‌ای از فضا و حرکت و آنچه در آن دخیل است، ندارد.

گاهی اوقات به نظر می‌رسد که مدل زبانی بزرگ، جهان و نحوه عملکرد آن را درک می‌کند و گاهی اوقات در این کار شکست می‌خورد. مهارت‌های زبانی این مدل‌ها گاهی اوقات به نتیجه دقیق و گاهی اوقات به شکست کامل منجر می‌شود اما عملکرد چشمگیر آنها در چالش طرح‌واره وینوگراد چطور است؟

در مقاله‌ای پیرامون پایان چالش طرح‌واره وینوگراد، پژوهشگرانی که حدود ۱۰ سال برای ترویج آن به‌عنوان آزمون هوش ماشینی کار کردند، دستاوردهای انسان‌مانند مدل زبانی بزرگ را به نقص‌های موجود در فرمول‌بندی و اجرای آزمون نسبت می‌دهند.

علاوه بر این، آنها گزارش دادند که در اوایل دهه ۲۰۱۰ که نشانه‌های کمی مبنی بر موفقیت سیستم‌های هوش مصنوعی در چالش طرح‌واره وینوگراد وجود داشت، افرادی هشدار داده بودند که قدرت این آزمایش ممکن است کمتر از آن چیزی باشد که سازندگان آن انتظار می‌کشیدند و باور داشتند. آنها استدلال کردند که موفقیت ممکن است بدون حل کردن مشکل اساسی که انگیزه این چالش را ایجاد کرده بود، به دست آید.

طرفداران طرح‌واره وینوگراد اکنون اذعان می‌کنند که حل کردن آن، یک جایگزین برای استدلال عقل سلیم نیست؛ چه رسد به هوش. دشواری استفاده از موفقیت در یک کار خاص به عنوان جایگزین هوش، مشکلی است که تا به امروز ادامه دارد. حتی وقتی وظایفی که رایانه‌ها می‌توانند با موفقیت انجام دهند، پیچیدگی را به صورت قابل توجه بالا می‌برند، این مشکل وجود دارد.

وینوگراد باور داشت که تحقق بخشیدن به جاه‌طلبی‌های اولیه پژوهشگران حوزه پردازش زبان‌های طبیعی، چندین دهه یا بیشتر طول می‌کشد. وینوگراد گفت: در این میان، هوش مصنوعی اهداف بسیار قابل‌تحقق‌تری را در نظر گرفت که کار کردن در جایگاه‌های کمتر جاه‌طلبانه یا پذیرش نتایج کمتر از نتایج کار انسان بود.

در هر حال، دیگر این گونه نیست. جاه‌طلبی امروز توسعه‌دهندگان هوش مصنوعی، بر دستیابی به «هوش عمومی مصنوعی»(AGI) متمرکز شده است که در عین برطرف کردن همه معایب هوش مصنوعی، طیف کاملی از هوش انسانی را در ماشین‌ها بازسازی می‌کند.

منبع: ایسنا

کانال عصر ایران در تلگرام بیشتر بخوانید: یک رقیب جدید برای GPT از راه رسید ChatGPT رادیولوژیست شد

منبع: عصر ایران

کلیدواژه: شرکت OpenAI ChatGPT باید جابه جا شود کیسه سیب زمینی مدل زبانی بزرگ گاهی اوقات هوش مصنوعی کیسه آرد مدل ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.asriran.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «عصر ایران» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۳۷۴۷۶۴ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

جدیدترین شاخه مقاومت اسلامی در بحرین چگونه متولد شد؟

در روزهای اخیر انتشار تصاویری از اولین حمله پهپادی مقاومت اسلامی بحرین به نام «سرایا الاشتر»، به شرکت حمل و نقل زمینی «تراک نت» در شهر ایلات واقع در جنوب فلسطین اشغالی توجه بسیاری را به خود جلب کرده و این سوال را ایجاد کرده است که این گروه مقاومت چگونه شکل گرفته است؟

به گزارش خبرگزاری ایمنا، در روزهای اخیر انتشار تصاویری از اولین حمله پهپادی مقاومت اسلامی بحرین به نام «سرایا الاشتر»، به شرکت حمل و نقل زمینی «تراک نت» در شهر ایلات واقع در جنوب فلسطین اشغالی توجه بسیاری را به خود جلب کرده و باعث تعجب بسیاری از تحلیلگران منطقه‌ای و بین‌المللی شده است.

ببینید: حمله مقاومت اسلامی بحرین به بندر ایلات برای اولین بار+ فیلم

این گروه سیزدهم اردیبهشت در بیانیه‌ای اعلام کرد: در حمایت از آرمان فلسطین و در حمایت از مردم مقاوم غزه، مقر شرکت حمل و نقل زمینی تراک نت رژیم صهیونیستی در شهر ام الرشرش فلسطین اشغالی (ایلات) را به وسیله پهپاد هدف قرار داده‌ایم.

مقاومت اسلامی بحرین در ادامه تاکید کرد که به حرکت و حمایت خود در همه سطوح از مردم صبور و مقاوم غزه ادامه می‌دهد و تا زمانی که تجاوز رژیم صهیونیستی متوقف نشود، عملیات‌های خود را متوقف نخواهد کرد.

مقاومت بحرین چه زمانی تأسیس شد؟

بر اساس اطلاعات موجود، این گروه در سال ۲۰۱۲ میلادی (بعد از سرکوب اعتراضات بحرین در سال ۲۰۱۱) تأسیس شد و برای مقابله با حکومت آل خلیفه در بحرین اقدامات سیاسی و مسلحانه انجام می‌دهد. طبق ادعای منابع نزدیک به دولت بحرین و رسانه‌های غربی، تعدادی از افراد مخالف حکومت آل خلیفه برای فرار از مجازات از بحرین گریخته و در ایران ساکن شدند و سپس این گروه مقاومت را تشکیل دادند، مقامات بحرینی در سال‌های اخیر سعی کرده‌اند تا این گروه را به عنوان یک گروه تروریستی معرفی کنند که خارج از بحرین فعالیت می‌کند.

لازم به ذکر است که پانزدهم دی ماه سال ۱۳۹۹، در اولین سالگرد شهادت شهید سلیمانی، تصاویری از حضور اعضای مقاومت اسلامی بحرین در گلستان شهدای کرمان برای ادای احترام به سردار شهید قاسم سلیمانی، منتشر شد که در آن پرچم سرایا الاشتر دیده می‌شد.

رسانه‌های ضد محور مقاومت مدعی هستند که رهبری این گروه بر عهده «أحمد یوسف سرحان» (معروف به أبو منتظر) و «جاسم أحمد عبد الله» (معروف به ذوالفقار) دو شهروند بحرینی فراری و ساکن ایران می‌باشد، اگرچه علی‌رغم گذشت چندین سال، تاکنون رسانه‌های غربی و بحرینی اسناد قابل استنادی در این رابطه منتشر نکرده‌اند.

سرایا الاشتر در سال ۲۰۱۴ از سوی کشورهای امارات، کانادا، مصر، عربستان سعودی و کویت به عنوان یک سازمان تروریستی اعلام شد. آمریکا نیز در سال ۲۰۱۸، این گروه را به فهرست سازمان‌های تروریستی اضافه کرد.

۴ جوانی که در کلیپ سرایا الاشتر دیده می‌شوند چه کسانی هستند؟

پس از این عملیات وب‌گاه نشریه «نیوزویک» آمریکا در مقاله‌ای به بررسی این گروه پرداخت و نوشت کلیپ منتشر شده توسط این گروه، به طور برجسته پرتره‌ای را نشان می‌دهد که ۴ مرد را به تصویر می‌کشد: «ردا الغصره»، «مصطفی یوسف» و «محمود یحیی» که در سال ۲۰۱۷ هنگام تلاش برای فرار از زندان بحرین به ایران توسط نیروهای امنیتی بحرین کشته شدند و همچنین «احمد الممالی» که در سال ۲۰۱۹ اعدام شد. هر ۴ نفر توسط مقامات بحرینی به تروریسم متهم شدند و توسط گردان‌های الاشتر به عنوان شهدا مورد ستایش قرار می‌گیرند و در ویدئو برچسب تصویر این ۴ شهید بر روی پهپاد شلیک شده به سمت اسرائیل نصب می‌شود.

نیوزویک در ادامه به بررسی پهپاد نمایش داده شده در کلیپ پرداخت و نوشت پهپادی که در ویدئوی گردان‌های الاشتر مشاهده شد، شباهت‌هایی به مدل‌هایی دارد که اخیراً توسط انصارالله یمن به کار گرفته شده است؛ به ویژه پهپاد صماد ساخته انصارالله یمن.

همانند تعدادی از شبه‌نظامیان محور مقاومت در سراسر منطقه، پرچم گردان‌های الاشتر مشت گره‌شده‌ای است که یک تفنگ کلاشینکف را در کنار یک کره و آیات قرآن، به تبعیت از الگوی سپاه پاسداران انقلاب اسلامی ایران، برافراشته است.

به گفته این گزارش در حالی که به نظر می‌رسد گردان‌های الاشتر تقریباً به اندازه برخی از برجسته‌ترین جناح‌های محور مقاومت در لبنان، عراق، سوریه و یمن فعال نیست، اما این گروه در کنار دیگر شبه‌نظامیان مسلمان شیعه، نگرانی‌های امنیتی پایدار برای رژیم آل خلیفه در بحرین ایجاد کرده است. بحرین همچنین برای ایالات متحده که پایگاهی کلیدی در آنجا دارد، بسیار واجد اهمیت است، زیرا شهر منامه، پایتخت بحرین، میزبان مقر ناوگان پنجم نیروی دریایی ایالات متحده است.

به گزارش ایمنا، کشور بحرین به عنوان متحد نزدیک عربستان سعودی، یکی از چهار کشور عربی است که از طریق پیمان ابراهیم که در سال ۲۰۲۰ و توسط آمریکا آغاز شد، رژیم اشغالگر اسرائیل را به رسمیت شناخت و امارات متحده عربی، سودان و مراکش نیز بعد از بحرین روابط خود را با این رژیم عادی کردند. این تصمیم خشم گروه‌های مختلف مردمی در داخل این کشور را برانگیخت و مطابق نظرسنجی‌ها بسیاری از مردم بحرین از عادی سازی روابط با رژیم جنایتکار صهیونیستی ناراضی هستند.

لازم به ذکر است که در ماه‌های اخیر و با افزایش تنفر عمومی از جنایت‌های رژیم صهیونیستی در غزه، وزارت خارجه بحرین نیز چندین بار از اقدامات اسرائیل در غزه و اقدامات شهروندانش انتقاد کرده است، از جمله در بیانیه‌ای در روز پنجشنبه «به شدت حمله شهرک‌نشینان اسرائیلی افراطی به دو کاروان کمک‌های اردنی حامل مواد غذایی و تدارکات امدادی به نوار غزه از طریق گذرگاه کرم ابوسالم و گذرگاه بیت حانون-ارز را محکوم کرد و این اقدام را برخلاف قوانین بشردوستانه بین‌المللی، میثاق‌های بین‌المللی و همه ارزش‌های انسانی و اخلاقی دانست.»

با این حال، به نظر می‌رسد روابط میان بحرین و رژیم صهیونیستی همچنان پابرجاست و اگرچه اخباری مبتنی بر اخراج سفیر اسرائیل از خاک بحرین و تعلیق تمامی روابط اقتصادی میان بحرین و اسرائیل در ماه نوامبر منتشر شد اما پس از آن هیچ تأیید رسمی در این باره منتشر نشد و وزارت خارجه اسرائیل نیز این خبر را تکذیب کرد.

علاوه بر این، نباید فراموش کرد که بحرین تنها کشور عربی بود که به ائتلاف آمریکایی - انگلیسی که در ماه دسامبر برای مقابله با اقدامات نیروهای مسلح یمن در دریای سرخ شکل گرفت، ملحق شد، اما حالا به نظر می‌رسد با شروع فاز جدید اقدامات گروه مقاومت اسلامی بحرین به عنوان یکی از جدیدترین شاخه‌های محور مقاومت در منطقه باید منتظر تحولات تازه ای در این کشور، به عنوان یکی از متحدین استراتژیک رژیم صهیونیستی باشیم، چراکه همانطور که رهبر معظم انقلاب در دیدار با معلمان اشاره کردند: «بعضی خیال می‌کنند بروند کشورهای اطراف را وادار کنند که روابطشان را با رژیم صهیونیستی عادّی کنند، مشکل حل خواهد شد؛ نه، اشتباه می‌کنند. فرض کنید کشورهای گوناگونِ این دُوروبَر، عمدتاً کشورهای عرب، روابطشان را با رژیم صهیونیستی عادّی هم بکنند، این، مشکل را حل نمی‌کند، بلکه مشکل را متوجّه می‌کند به خود دولت‌های آنها؛ یعنی آن دولت‌هایی که بر این جنایات چشم پوشیدند و با وجود یک چنین جنایاتی با آن رژیم دست دوستی دادند، ملّت‌ها به جان خود آن دولت‌ها خواهند افتاد. اگر امروز ملّت‌های منطقه علیه رژیم صهیونیستی‌اند، آن روز ملّت‌های منطقه علیه دولت‌های خودشان خواهند بود.»

کد خبر 750353