گوگل با سیستم Gato در حال دستیابی به هوش مصنوعی در سطح انسان است

یکی از اهداف و یا شاید رویاهای حوزه هوش مصنوعی ایجاد سیستمی با توانایی درک و یادگیری کارهایی مختلف مانند استدلال، برنامه ریزی، یادگیری زبان و برقراری ارتباط است که یک انسان می تواند آنها را انجام دهد ولی انجام آنها توسط یک مدل هوش مصنوعی کار بسیار سختی است .

شرکت DeepMind، زیرمجموعه گوگل، با رونمایی از یک سیستم هوش مصنوعی به نام Gato (در زبان اسپانیایی به معنای گربه) گامی به سوی این هدف که در نهایت خلق هوش جامع مصنوعی (AGI) یا  Artificial General Intelligence است، برداشته است.

اکثر سیستم‌های هوش مصنوعی فعلی در یک زمان روی یک وظیفه یا دامنه محدودی از وظایف کار می‌کنند. اهمیت کار جدید Deepmind در این است که Gato سیستمی است که تنها با یک مدل هوش مصنوعی به اسم ترانسفرمر می تواند برای انجام انواع مختلف وظایف اعم از وظایف زبانی مانند خواندن و نوشتن، دیداری مانند تشخیص اشیاء و فیزیکی مانند حرکت دادن بازوی ربات، آموزش داده شود.

ترانسفرمر یک مدل یادگیری عمیق است که عمدتاً در زمینه‌های پردازش زبان طبیعی (NLP) مانند خلاصه‌سازی متون و تولید موسیقی و بینایی کامپیوتر (CV) مثل پیدا کردن اشیاء در تصاویر استفاده می‌شود.

ترانسفورمر مدلی است که از مفهوم توجه استفاده کرده و برای مثال در یک مدل زبانی در یک جمله به بخش های خاصی از ورودی یعنی کلمات تمرکز کرده و ارتباط بین کلمات را یاد می گیرد.

محققان DeepMind به Gato آموزش دادند تا 604 کار مختلف را انجام دهد که از جمله آنها نوشتن کپشن برای تصاویر، درگیر شدن در گفتگوها، چیدن بلوک ها با یک بازوی ربات واقعی و حتی بازی کردن بازی های آتاری است.

برای اینکه Gato بتواند از داده های ورودی اعم از متن، عکس، حرکات ربات و غیره که با همدیگه متفاوت هستند استفاده کند از روشی به نام Tokenization استفاده می‌شود که در آن داده های ورودی به بازه ای از اعداد تبدیل شده تا بشود آنها را به عنوان ورودی به مدل هوش مصنوعی داد.

مثل هر سیستم هوش مصنوعی دیگر، Gato هم با دیدن مثال های زیاد انجام کارها را یاد می گیرد، اما این هوش مصنوعی لزوماً این وظایف را به خوبی انجام نمی دهد.

در 450 مورد از 604 کار ذکر شده، DeepMind ادعا می کند که Gato در بیش از 50 درصد موارد بهتر از یک متخصص عمل می کند.

از لحاظ معماری، Gato تفاوت چشمگیری با سیستم های هوش مصنوعی فعلی ندارد و مدل استفاده شده همانند هوش مصنوعی GPT-3 از شرکت OpenAI هم یک ترانسفرمر است. اما نکته قابل توجه این است که، Gato تعداد پارامترهای بسیار کمتری نسبت به سیستم های تک وظیفه ای مانند GPT-3 دارد.

پارامترها بخش‌هایی از سیستم هستند که از داده‌های آموزشی یاد گرفته می شوند و درست تنظیم شدن این پارامترها اهمیت بسیار زیادی در دقت نهایی مدل آموزش داده شده دارد.

تعداد این پارامترها در Gato فقط 1.2 میلیارد است تا بتواند در لحظه کار کند، در حالی که GPT-3 بیش از 170 میلیارد پارامتر دارد. این موضوع باعث بزرگتر شدن شبکه و درنتیجه زمان یادگیری بیشتر و اجرای کندتر می‌شود.

محدودیتی که ترانسفرمرها دارند این است که مقدار اطلاعاتی که مدل می تواند در زمینه یک کار مشخص مثل نوشتن یک متن به خاطر بسپارد محدود است و در حال حاضر بهترین مدل‌ها هم نمی‌توانند یک مقاله طولانی یا کتاب بنویسند. چون مسیر داستان به فراموشی سپرده می شود.

این فراموشی در هر کاری، اعم از نوشتن یا کنترل ربات به گفته برخی از کارشناسان پاشنه آشیل این حوزه است که باعث می شود هنوز از AGI فاصله زیادی داشته باشیم و لزوما راه رسیدن به AGI از مدلهای ترانسفرمر نگذرد.