به گزارش سرویس اخبار فناوری پایگاه خبری عصر فناوری ،
محدودیتی که اغلب برای چت بات ها نادیده گرفته می شود این است حافظه. در حالی که درست است که مدلهای زبان هوش مصنوعی که این سیستمها را نیرو میدهند، بر روی ترابایت متن آموزش داده میشوند، مقداری که این سیستمها میتوانند هنگام استفاده پردازش کنند – یعنی ترکیبی از متن ورودی و خروجی، همچنین به عنوان “پنجره زمینه” آنها شناخته میشود. محدود. برای ChatGPT حدود 3000 کلمه است. راههایی برای حل این مشکل وجود دارد، اما هنوز حجم زیادی از اطلاعات برای بازی کردن نیست.
اکنون، استارتآپ هوش مصنوعی Anthropic (که توسط مهندسان سابق OpenAI تأسیس شده است) پنجره زمینه چت بات خود Claude را بسیار گسترش داده است و آن را به حدود 75000 کلمه رسانده است. همانطور که این شرکت در یک پست وبلاگ اشاره می کند، برای پردازش کل آن کافی است گتسبی بزرگ در یک حرکت. در واقع، شرکت فقط با انجام این کار سیستم را آزمایش کرد – ویرایش یک جمله در رمان و درخواست از کلود برای تشخیص این تغییر. این کار را در 22 ثانیه انجام داد.
ممکن است متوجه عدم دقت من در توصیف طول این پنجره های زمینه شده باشید. دلیل آن این است که مدلهای زبان هوش مصنوعی اطلاعات را نه با تعداد کاراکترها یا کلمات، بلکه به صورت نشانهها اندازهگیری میکنند. یک واحد معنایی که دقیقاً روی این کمیت های آشنا نگاشت نمی شود. وقتی به آن فکر می کنید منطقی است. از این گذشته، کلمات می توانند طولانی یا کوتاه باشند و طول آنها لزوماً با پیچیدگی معنای آنها مطابقت ندارد. (طولانیترین تعاریف در فرهنگ لغت اغلب برای کوتاهترین کلمات است.) استفاده از «نشانها» این حقیقت را منعکس میکند، و بنابراین، بهطور دقیقتر: پنجره زمینه کلود اکنون میتواند 100000 نشانه را پردازش کند، از 9000 قبلی. در مقایسه، GPT-4 OpenAI حدود 8000 توکن را پردازش می کند (این مدل استاندارد موجود در ChatGPT نیست – برای دسترسی باید هزینه پرداخت کنید) در حالی که یک مدل پر چرب GPT-4 با نسخه محدود می تواند تا 32000 توکن را مدیریت کند.
در حال حاضر، ظرفیت جدید کلود فقط در اختیار شرکای تجاری Anthropic است که از طریق API شرکت به چت بات دسترسی دارند. قیمت آن نیز ناشناخته است، اما مطمئناً افزایش قابل توجهی خواهد داشت. پردازش متن بیشتر به معنای صرف هزینه بیشتر برای محاسبات است.
اما اخبار نشان می دهد که ظرفیت مدل های زبان هوش مصنوعی برای پردازش اطلاعات در حال افزایش است و این مطمئناً این سیستم ها را مفیدتر می کند. همانطور که Anthropic اشاره می کند، خواندن 75000 کلمه متن برای انسان حدود 5 ساعت طول می کشد، اما با پنجره زمینه گسترده کلود، به طور بالقوه می تواند وظیفه خواندن، خلاصه کردن و تجزیه و تحلیل اسناد طولانی را در عرض چند دقیقه بر عهده بگیرد. (اگرچه در مورد تمایل مداوم چت بات ها به ایجاد اطلاعات کاری انجام نمی دهد.) یک پنجره زمینه بزرگتر همچنین به این معنی است که سیستم می تواند مکالمات طولانی تری را برگزار کند. یکی از عواملی که باعث می شود چت بات ها از بین بروند این است که وقتی پنجره زمینه آنها پر می شود، آنچه گفته شده را فراموش می کنند و به همین دلیل است که چت ربات بینگ به این محدود می شود. 20 نوبت مکالمه. زمینه بیشتر مساوی است با گفتگوی بیشتر.
این محتوا از سایت های خبری خارجی بطور اتوماتیک دانلود شده است و عصر فناوری فقط نمایش دهنده است. اگر این خبر با قوانین و مقررات جمهوری اسلامی مناقات دارد لطفا به ما گزارش کنید.