کیو-استار ( Q* ) هوش مصنوعی جدیدی است که این روزها خبرساز شده و گفته می‌شود می‌تواند حیات بشر را تهدید کند اما این هوش مصنوعی جدید چیست و چرا ظهور آن باعث نگرانی شده است؟
به گزارش ایسنا، خبر اخراج و استخدام مجدد سم آلتمن از شرکت فناوری اُپن ای‌آی بسیار خبرساز بوده است و همراه با اخبار آلتمن، اخباری مبنی بر ظهور هوش مصنوعی جدیدی موسوم به Q* با تلفظ کیو-استار منتشر شد که گفته می‌شود دلیل اخراج آلتمن بوده و می‌تواند تهدید کننده بشریت باشد.
پروژه کیو-استار در جامعه هوش مصنوعی موج‌هایی ایجاد کرده است. همانطور که پیش‌تر اشاره شد، همه چیز با اخراج سم آلتمن توسط هیئت مدیره شرکت اُپن ای‌آی متشکل از آدام دی آنجلو، توشا مک کاولی، ایلیا سوتسکور و هلن تونر آغاز شد. پس از آن، مایکروسافت به آلتمن شغلی را برای سرپرستی تیم تحقیقاتی جدید یک هوش مصنوعی پیشرفته پیشنهاد داد.
قبل از اینکه به ادامه این موضوع بپردازیم برای آشنایی بیشتر با پروژه کیو استار شما را دعوت به خواندن مقاله پروژه *Q چیست؟ هوش مصنوعی محرمانه OpenAI که کارشناسان را نگران کرده است
می کنم.
در همین حال، نزدیک به ۷۰۰ کارمند از ۷۷۰ کارمند شرکت اُپن ای‌آی نامه‌ای سرگشاده نوشتند و در آن به آلتمن قول وفاداری دادند و تهدید کردند که در صورت عدم انحلال هیئت مدیره و عدم بازگشت آلتمن به اُپن ای‌آی این شرکت را ترک کرده و به مایکروسافت می‌پیوندند.
تبعید چهار روزه آلتمن به گمانه‌زنی‌های متعددی در مورد علت اخراج او منجر شد. از اختلاف نظر با اعضای هیئت مدیره بر سر محصولات گرفته تا عدم برقراری ارتباط مداوم و تفاوت در مورد ایمنی هوش مصنوعی.
در حالی که همه این روایت‌ها در فضاهای مختلف پخش می‌شدند، گزارش شد که چندین پژوهشگر از کارکنان اُپن ای‌آی به هیئت مدیره درباره کشف یک هوش مصنوعی قدرتمند که به طور بالقوه می‌تواند حیات بشریت را تهدید کند، نامه نوشته بودند.
و به دنبال آن نگاه‌ها به سوی این مدل مرموز هوش مصنوعی معطوف شد که می‌توانست منشا این هرج و مرج در اُپن ای‌آی باشد. لازم به ذکر است که در مورد دریافت این نامه ابهاماتی وجود دارد. برای مثال پایگاه خبری ورج(The Verge) گزارش داده است که چندین منبع آگاه، دریافت آن نامه توسط هیئت مدیره را تکذیب کرده‌اند.
با این وجود براساس گزارشی از اینفورمیشن(The Information)، اوایل سال جاری گروهی به رهبری دانشمند ارشد اُپن ای‌آی به نام ایلیا سوتسکور به پیشرفتی در زمینه هوش مصنوعی دست یافتند که در ادامه به آنها این امکان را داد که مدل جدیدی از هوش مصنوعی به نام کیو-استار بسازند. براساس گزارش‌ها این مدل جدید می‌تواند مسائل اساسی ریاضی را حل کند. این پیشرفت باعث نگرانی در میان کارکنان شده است. آنها احساس می‌کردند که شرکت هوش مصنوعی اُپن ای‌آی ایمنی و حفاظت کافی برای «تجاری‌سازی» چنین مدل پیشرفته‌ای را ندارد.
وقت آن رسیده که با کیو-استار بیشتر آشنا شویم.
کیو-استار در واقع الگوریتمی است که به تنهایی قادر به حل مسائل ریاضی پایه است و حتی می‌تواند مسائلی که بخشی از داده‌های آموزشی آن نبوده‌اند را نیز حل کند.
این یک جهش قابل توجه به سمت هوش جامع مصنوعی یا هوش عمومی مصنوعی(AGI) به حساب می‌آید. هوش جامع مصنوعی از هوش مصنوعی‌های کنونی پیشرفته‌تر است. مدل‌های کنونی قادر به تولید متن و تصویر هستند اما هوش جامع مصنوعی می‌تواند هر کاری که یک انسان قادر به انجام آن است را انجام دهد. این هوش مصنوعی قادر به درک مفاهیم بوده، مسائل پیچیده را حل می‌کند، خلاق است و با محیط تعامل دارد. این هوش مصنوعی مانند مغز انسان از داده‌ها برای یادگیری و تصمیم‌گیری استفاده می‌کند. اشتباه می‌کند و از اشتباهاتش درس می‌گیرد. گفته می‌شود که سوتسکور پیشرفتی در این زمینه کسب کرده و به این نوع از هوش مصنوعی دست یافته است. مدل کیو-استار نیز به عنوان محصول این پیشرفت قابلیت استدلالی پیشرفته‌ای مشابه انسان نشان داده است. براساس گزارش‌ها این پیشرفت بخشی از یک نوآوری بزرگ‌تر توسط گروهی از دانشمندان هوش مصنوعی با ادغام گروه‌های Code Gen ،Math Gen در اُپن ای‌آی است. تمرکز این گروه بر افزایش قابلیت‌های استدلال هوش مصنوعی در کارهای علمی بوده است.
گزارش‌ها نشان می‌دهد که کیو-استار می‌تواند ریاضیات را در سطح دانش‌آموزان ابتدایی انجام دهد. این دستاورد هر چند کوچک محققان را نسبت به آینده هوش جامع مصنوعی امیدوار کرده است.
ریاضی به عنوان مرزی برای توسعه هوش مصنوعی مولد در نظر گرفته می‌شود. هوش‌های مصنوعی مولد کنونی در نوشتن، ترجمه و پیش‌بینی آماری کلمه بعدی قابلیت بالایی دارند با این حال توانایی انجام ریاضیات وقتی تنها یک پاسخ درست وجود دارد نشان می‌دهد که هوش مصنوعی توانایی استدلال بیشتری نزدیک به هوش انسانی پیدا کرده است.
برخلاف ماشین حساب که می‌تواند تعداد معدودی از عملیات‌های ریاضی را انجام دهد، هوش جامع مصنوعی می‌تواند یاد بگیرد و موارد مختلف را به هم تعمیم دهد. این یک گام رو به جلو در زمینه هوش مصنوعی است. به گفته یک منبع آگاه، اگرچه انجام ریاضیات در سطح دانش‌آموزان مقطع ابتدایی دستاوری است که به دست آمده اما محققان نسبت به موفقیت کیو-استار در آینده خوشبین هستند.
یک هوش مصنوعی با قابلیت حل مسائل ریاضی شاید چندان ترسناک به نظر نرسد پس چرا این پیشرفت جدید باعث نگرانی جوامع علمی شده تا اندازه‌ای که آن را تهدید کننده حیات بشریت می‌خوانند؟
براساس گزارش‌ها، نامه محققان، نگرانی‌های مربوط به توانایی بالقوه این سیستم در تسریع پیشرفت علمی را تشریح کرده و همزمان کفایت اقدامات ایمنی به کار برده شده توسط اُپن ای‌آی را زیر سوال برده است. براساس گزارش رویترز ظاهرا این مدل جدید از هوش مصنوعی اعتراض داخلی را برانگیخته و کارکنان اعلام کردند که می‌تواند تهدید کننده بشریت باشد.
به گفته یک منبع آگاه، این پیشرفت به طور بالقوه امکان ایجاد مدل‌های هوش مصنوعی بسیار قوی‌تر را فراهم می‌کند. اعتقاد بر این است که این هشدار یکی از دلایل اخراج آلتمن نیز بوده است. آلتمن در سخنرانی خود در اجلاس همکاری اقتصادی آسیا و اقیانوسیه به آن اشاره کرده بود.
چرا باید نگران پیشرفت کیو-استار باشیم؟
استدلال منطقی پیشرفته و درک مفاهیم انتزاعی
تمام گزارش‌های موجود در اینترنت تاکنون نشان می‌دهد که کیو-استار توانایی استدلال منطقی و درک مفاهیم انتزاعی را دارد.
این یک جهش فوق‌العاده است زیرا هیچ مدل هوش مصنوعی تاکنون قادر به انجام آن نبوده است. در حالی که در سطح عملی، این یک پیشرفت محسوب می‌شود اما می‌تواند به رفتار یا تصمیمات غیرقابل پیش‌بینی نیز منجر شود که ممکن است انسان قادر به پیش بینی یا درک آنها از پیش نباشد.
استدلال منطقی پیشرفته و درک مفاهیم انتزاعی
سوفیا کالانوفسکا(Sophia Kalanovska)، محقق به بیزنس اینسایدر(Business Insider) گفته است که نام Q* دلالت بر تلفیقی از دو روش شناخته شده هوش مصنوعی مانند یادگیری Q و جستجوی A* دارد. او گفت که این مدل جدید می‌تواند یادگیری عمیق را با قوانین برنامه‌ریزی شده توسط انسان ترکیب کند و این ممکن است آن را قدرتمندتر و همه کاره‌تر از هر مدل فعلی هوش مصنوعی دیگری کند. اساسا، این موضوع می‌تواند به ایجاد یک مدل هوش مصنوعی منتهی شود که نه تنها از داده‌ها یاد می‌گیرد، بلکه مانند انسان‌ها استدلال را نیز به کار می‌گیرد، که کنترل یا پیش‌بینی آن را دشوار می‌کند.
الگوریتم A استار یک الگوریتم مسیریابی است که برای پیمایش و یافتن مسیر در گراف استفاده می‌شود. به علت کامل بودن، بهینه بودن(یافتن جواب بهینه) و سرعت مناسب این الگوریتم، استفاده گسترده‌ای از آن می‌شود.
یک جهش عظیم به سمت هوش جامع مصنوعی
کیو-استار به عنوان گامی به سوی دستیابی هوش جامع مصنوعی تلقی می‌شود. موردی که موضوع بحث در جامعه هوش مصنوعی بوده است.
لازم به ذکر است که آلتمن نسبت به هوش جامع مصنوعی خوشبین بوده و در مصاحبه اخیر خود گفته بود که ممکن است در دهه آینده به آن دست یابیم. این نوع از هوش مصنوعی یک هوش مصنوعی است که توانایی درک، یادگیری و به کارگیری دانش در حوزه‌های مختلف را درست مانند هوش انسانی دارد. هوش جامع مصنوعی احتمالا می‌تواند در بسیاری از زمینه‌ها از قابلیت‌های انسانی پیشی بگیرد و این ممکن است منجر به بروز مسائلی در کنترل آن، حفظ ایمنی و مشکلات اخلاقی شود.
قابلیت توسعه ایده‌های جدید
در حال حاضر، مدل‌های هوش مصنوعی در درجه اول اطلاعات موجود را بازیابی می‌کنند و سپس آنها را به کار می‌گیرند اما کیو-استار نقطه عطفی خواهد بود زیرا می‌تواند ایده‌های جدید تولید کند و مشکلات را حتی قبل از وقوع آنها حل کند. نقطه ضعف این توانایی می‌تواند این باشد که می‌تواند هوش مصنوعی را قادر به تصمیم گیری یا اقداماتی کند که خارج از کنترل یا درک انسان است.
عواقب ناخواسته و سوء استفاده
قابلیت‌های پیشرفته کیو-استار همچنین می‌تواند به سوء استفاده احتمالی یا پیامدهای ناخواسته منجر شود. اگر یک هوش مصنوعی به این بزرگی و قدرتمندی به دست افراد نادرست بیفتد، می‌تواند برای بشریت پیامدهای شومی به همراه داشته باشد. اگر کسی آن را با نیت خوب به کار گیرد، پیچیدگی استدلال و تصمیم‌گیری کیو-استار می‌تواند به نتایجی منجر شود که برای بشریت مضر نیست.
نگرانی‌های ذکر شده بر اساس آن چیزی است که در فضای اینترنت در رابطه با پروژه کیو-استار مورد بحث قرار گرفته است و لازم به ذکر است که هیچ اطلاعات رسمی در مورد این پروژه وجود ندارد.
این نگرانی‌ها بر نیاز به بررسی متفکرانه و نیاز به چارچوب‌های اخلاقی و ایمنی قوی در توسعه چنین فناوری‌های پیشرفته هوش مصنوعی تأکید دارند.