یک مطالعه جدید به نام "مدل‌های زبانی بزرگتر و آموزنده‌تر کمتر قابل اعتماد می‌شوند" که در مجله علمی Nature منتشر شده است، نشان داده که چت‌بات‌های هوش مصنوعی با گذشت زمان و عرضه مدل‌های جدیدتر، خطاهای بیشتری مرتکب می‌شوند. لکسین ژو، یکی از نویسندگان این مطالعه، توضیح می‌دهد که مدل‌های هوش مصنوعی به گونه‌ای طراحی شده‌اند که پاسخ‌های باورپذیر و ظاهراً درست را به کاربران ارائه دهند، حتی اگر این پاسخ‌ها کاملاً دقیق نباشند. این پدیده، که به "توهمات هوش مصنوعی" معروف است، باعث می‌شود این اشتباهات با گذشت زمان تکرار و تقویت شوند. این مشکل می‌تواند تأثیرات جدی بر دنیای فناوری، به ویژه در زمینه صرافی ارز دیجیتال داشته باشد، زیرا کاربران برای تصمیم‌گیری‌های مالی به این ابزارها اعتماد می‌کنند و خطاهای هوش مصنوعی می‌تواند به اشتباهات مالی و تصمیمات نادرست منجر شود.
ماتیو روی، نویسنده و ویراستار، هشدار داده که کاربران نباید بیش از حد به این ابزارهای هوش مصنوعی اعتماد کنند و باید همیشه نتایج آن‌ها را از نظر دقت بررسی کنند. او تأکید می‌کند که با وجود مفید بودن هوش مصنوعی در بسیاری از حوزه‌ها، ارتباط هوش مصنوعی با ارزهای دیجیتال به خصوص در بخش‌هایی مانند تحلیل بازار و تصمیم‌گیری‌های مالی بسیار حساس است. خطاهای هوش مصنوعی در این حوزه می‌توانند زیان‌های مالی سنگینی برای کاربران به همراه داشته باشند. به همین دلیل، بررسی دقیق اطلاعات تولید شده توسط هوش مصنوعی و استفاده از روش‌های تأیید دستی و منابع معتبر، امری ضروری است تا کاربران از اشتباهات جلوگیری کنند و اطلاعات بهتری برای تصمیم‌گیری داشته باشند.
منبع خبر: cointelegraph
