به‌نظر می‌رسد محدودیت‌های اولیه OpenAI برای ChatGPT که با هدف جلوگیری از سو‌ءاستفاده از این ابزار برای اهداف مخرب طراحی شده، چندان موفق نبوده، زیرا کلاهبرداران راهی برای دور زدن آن‌ها پیدا کرده‌اند.
در گزارش جدیدی ادعا شده که حتی پس از اعمال محدودیت‌ها، کلاهبرداران موفق شده‌اند تا از این چت‌بات برای بهبود کد یک بدافزار سرقت اطلاعات استفاده کنند.
محققان می‌گویند OpenAI محدودیت‌های محکمی برای کاربران رابط وب خود ایجاد کرده محدودیت‌هایی که در هنگام استفاده از API آن وجود ندارد.
