محقق مرکز تحقیقات IBB در عین بیان کاربردهای هوش مصنوعی، تصریح می‌کند: «یکی از انتقادات وارد به روش‌های هوش مصنوعی و یادگیری ماشین پیچیده، ماهیت «جعبه سیاه» آن‌هاست.
روشی که ورودی را گرفته و خروجی را اعلام می‌کند، اما توضیحی در مورد چگونگی رسیدن به نتیجه نهایی ندارد.»
به گزارش سرویس اخبار هوش مصنوعی سایت شات ایکس و به نقل از همشهری آنلاین پس از اینکه نوبل فیزیک و نوبل شیمی ۲۰۲۴ به دانشمندان هوش مصنوعی اعطا شد و مضمون «هوش مصنوعی جوایز نوبل را درو کرد» تیتر رسانه‌های دنیا شد، دکتر علیرضا فتوحی، عضو هیات علمی گروه بیوانفورماتیک مرکز تحقیقات بیوشیمی و بیوفیزیک (IBB) و عضو هیأت مدیره انجمن بیوانفورماتیک ایران و اتحادیه انجمن‌های علوم زیستی ایران، در یادداشتی که در اختیار گروه دانش و فناوری همشهری قرار داد، به اهمیت کاربردهای هوش مصنوعی در شیمی و فیزیک پرداخت.
یادداشت دکتر علیرضا فتوحی، عضو هیات علمی گروه بیوانفورماتیک مرکز تحقیقات بیوشیمی و بیوفیزیک (IBB) را در ادامه می‌خوانیم:
در سال‌های اخیر محبوبیت هوش مصنوعی روز به روز رو به افزایش بوده است. شاید از یادگیری ماشین شنیده باشید: روش‌هایی که در آن‌ها کامپیوتر با بررسی داده‌های ورودی، رفتار خود را تصحیح می‌کند. این روش‌ها هر چه بیشتر مورد استفاده قرار می‌گیرند.
ما از روبات‌های مهربان یا قاتل در فیلم‌های علمی-تخیلی به هوش مصنوعی در زندگی روزمره خود رسیده‌ایم. از تشخیص چهره و صدای شما توسط گوشی هوشمندتان، تا پیدا کردن کوتاه‌ترین مسیر در ترافیک عصرگاهی. در زمینه‌های علمی هم، هر جا که نگاه کنید صحبت است از «هوش مصنوعی در ...». از هوش مصنوعی در ژنتیک و پزشکی گرفته، تا هوش مصنوعی در فیزیک و شیمی.
پیش از آن‌که به موضوع اصلی بحث (هوش مصنوعی در شیمی و فیزیک) بپردازیم، بگذارید از تعریف هوش مصنوعی شروع کنیم. سال‌ها پیش نقل قولی از دایکسترا دانشمند هلندی علوم ریاضی و علوم کامپیوتر دیدم که می‌گفت: «اینکه بپرسیم آیا کامپیوتر می‌تواند فکر کند، همان‌قدر بی‌ربط است که بپرسیم آیا زیردریایی می‌تواند شنا کند.» ما زیردریایی را برای حرکت زیر آب ساخته‌ایم، اینکه اسم این حرکت را شنا کردن بگذاریم یا نه، تأثیری در هدف اصلی ساخت زیردریایی یا کارکردش نخواهد گذاشت.
کامپیوتر برای کمک در محاسبات ساخته شده است. اینکه بپرسیم آیا کامپیوتر واقعاً می‌تواند فکر کند یا نه، تأثیری در هدف اصلی ساخت کامپیوتر یا کارکردش برای ما نخواد داشت. آزمایش تورینگ (یا بازی تقلید) هم بر همین ایده استوار است: اگر یک انسان نتواند تشخیص دهد که دارد با یک ماشین حرف می‌زند یا یک انسان دیگر، به این معنی است که آن ماشین به هوش مصنوعی رسیده است.
شاید نام «اتاق چینی» به گوش‌تان خورده باشد. اتاق چینی یک آزمایش ذهنی است: فردی با یک کتاب در اتاقی دربسته نشسته است. در کتاب، مجموعه‌ای از جملات چینی و جواب مناسب آن‌ها نوشته شده است. فردی چینی زبان از بیرون اتاق نوشته‌ای به داخل اتاق می‌فرستد. فرد داخل اتاق زبان چینی نمی‌فهمد، اما عبارت ورودی را در کتاب پیدا می‌کند و جواب را روی کاغذ دیگری به بیرون می‌فرستد. فرد چینی زبان خارج از اتاق فکر می‌کند با فرد چینی زبان دیگری در مکالمه است، ولی فرد داخل اتاق درکی از مفهوم این مکالمه ندارد.
حالا در نظر بگیرید که شما با یک کامپیوتر در حال مکالمه هستید. آیا مهم است که ماشین با همان مکانیزم‌های ذهنی انسان این مکالمه را شکل می‌دهد؟ جواب این سؤال بستگی به هدف شما از ساخت این ماشین هوشمند دارد. اگر هدف شما ساخت ماشینی است که درک بهتری از مکانیزم‌های مغز انسان به دست بدهد، پس مکانیزم پاسخ کامپیوتر مهم است. اما اگر تنها جواب درست برای شما مهم باشد، یا به عبارتی، تنها نتیجه کار برای شما مهم باشد (همان مثال زیر دریایی که پیشتر ذکر شد را به یاد بیاورید) پس نحوه رسیدن به نتیجه برای ما مهم نخواهد بود.
حالا برگردیم به موضوع اصلی، هوش مصنوعی در شیمی و فیزیک. روش‌های هوش مصنوعی، و به طور خاص روش‌های مبتنی بر یادگیری ماشین، با استفاده از داده‌های ورودی سعی می‌کنند تا خروجی مورد نظر را بسازند. به عنوان مثال، روش‌هایی که ساختار پروتئین را از توالی آن پیش‌بینی می‌کنند (شاید نام آلفا فولد شرکت گوگل را شنیده‌اید). یا روش‌هایی که واکنش دارو و اهداف پروتئینی آن‌ها را پیش‌بینی می‌کنند. چه‌طور؟ به عنوان مثال، یک روش ممکن است از روی توالی پروتئین و زیرساخت‌های دارو، ویژگی‌هایی از دارو و پروتئین که نشان‌دهنده ارتباط آن‌هاست را استخراج کند. یا این روش‌ها توالی‌هایی را پیدا می‌کنند که در کنار هم قرار گرفتن‌شان زیرساخت‌های مختلفی از پروتئین را پیش‌بینی می‌کنند.
همین‌طور روش‌هایی هستند که با بررسی ساختار داروها و مولکول‌های کوچک، می‌توانند مولکول‌هایی با خواص مشابه تولید کنند. روش‌های مشابهی در آنالیز داده‌های فیزیکی در سطوح مختلف مورد استفاده قرار می‌گیرند: به عنوان مثال در غربال‌گری داده‌های به‌دست آمده از دستگاه‌های شتاب‌دهنده‌های ذرات، یا آنالیز تصاویر به‌دست آمده از تلسکوپ‌ها یا ماهواره‌ها (از کشف ستاره‌ها و سیاره‌های جدید، تا پیش‌بینی وقایع کیهانی).
با وجود اینکه بسیاری از این روش‌ها موفق‌تر از روش‌های کلاسیک عمل می‌کنند، اما همچنان مشکلات و نگرانی‌هایی نیز در مورد استفاده از این روش‌ها وجود دارد. یکی از انتقادات وارد به روش‌های هوش مصنوعی و یادگیری ماشین پیچیده، ماهیت «جعبه سیاه» آن‌هاست. روشی که ورودی را گرفته و خروجی را اعلام می‌کند، اما توضیحی در مورد چگونگی رسیدن به نتیجه نهایی ندارد. همین امر باعث انتقادات بسیاری به این روش‌ها می‌شود (مثلاً این که پیش‌بینی با وجود دقیق بودن، دانش جدیدی در مورد پروسه مورد بررسی ارائه نمی‌دهد). به همین علت است که روش‌های جدیدتر هوش مصنوعی (به عنوان مکانیزم توجه مورد استفاده در مبدل‌ها در یادگیری عمیق)، سعی در شفاف‌سازی پروسه و تفسیر روش به دست آوردن خروجی دارند.
با وجود تمام این مشکلات، توان روش‌های یادگیری ماشین و هوش مصنوعی، می‌توانند به کشفیات بیشتر و پیشرفت در همه زمینه‌های علمی کمک کند. به همین دلیل است که بسیاری معتقدند ما در آستانه یک دوره جدید از اکتشاف قرار داریم، جایی که مرزهای دانش بشری بیش از همیشه پیشرفت خواهد کرد.