این هوش مصنوعی خودش را هک می کند!
به گزارش سرویس علم و فناوری وبپیما به نقل از همشهری - این روش که به آن "Fun-Tuning" گفته می شود، از تکنیکی خاص استفاده می کند که باعث می شود، جمینای (ابزار هوش مصنوعی گوگل) اطلاعات را لو داده و یا جواب های اشتباه بدهد.
در واقع، با یک سری متن های بی معنی، مدل را دور می زند و به جواب هایی می رسد که نباید تولید شود!
این قضیه زنگ خطری جدی برای امنیت هوش مصنوعی محسوب می شود، زیرا نشان می دهد که حتی پیشرفته ترین مدل ها هم می توانند فریب بخورند!
این خبر توسط سایت همشهری آنلاین منتشر شده و وبپیما صرفا آن را به اشتراک گذاشته است.
منبع: همشهری آنلاین
