نگرانی‌ها درباره آسیب پذیری‌های جدید در نسخه‌های اخیر ChatGPT
به تازگی، مشخص شده است که ChatGPT Search، موتور جستجوی جدید OpenAI، به ویژه در برابر دستکاری‌ها آسیب پذیر است.
بر اساس تحقیقی از The Guardian، این موتور جستجو می‌تواند از طریق تکنیک‌هایی مانند «تزریق دستورات» (prompt injection) تحت تأثیر قرار گیرد. در این روش، دستورالعمل‌های پنهانی در صفحات وب گنجانده می‌شوند که می‌توانند پاسخ‌های ChatGPT را دستکاری کنند؛ این دستکاری‌ها می‌توانند از تبلیغات نادرست محصولات تا انتشار کدهای مخرب متغیر باشند.
این آسیب پذیری به نحوه خلاصه سازی صفحات وب توسط ChatGPT مرتبط است. دستورالعمل‌های پنهان در این صفحات می‌توانند باعث شوند مدل هوش مصنوعی اطلاعات نادرست یا نامطلوبی ارائه دهد.
این خطرات برای کاربران ChatGPT Search جدی است. به عنوان مثال، در گذشته، یک کاربر از ChatGPT درخواست کمک برنامه نویسی کرده بود که کد ارائه شده منجر به سرقت اطلاعات ورود و از دست رفتن ۲۵۰۰ دلار ارز دیجیتال شد.
متخصصان امنیتی تأکید می‌کنند که خطرات مرتبط با استفاده از مدل‌های زبانی بزرگ (LLM) از گذشته وجود داشته و در حال افزایش است. آن‌ها به کاربران توصیه می‌کنند که پاسخ‌های تولیدشده را با احتیاط و نگاه انتقادی بررسی کنند.
با وجود این خطرات، کارشناسان ChatGPT Search را گامی مهم در توسعه موتورهای جستجوی مبتنی بر هوش مصنوعی می‌دانند. آن‌ها انتظار دارند که امنیت این فناوری در آینده بهبود یابد. OpenAI هنوز به یافته‌های The Guardian واکنشی نشان نداده است.
اخبار مرتبط
-
پاداش ۱۰ یورویی پِی‌پال برای برخی کاربران به دلیل اختلال بزرگ در سامانه
-
امکان ارسال پیام در Spotify فعال شد
-
فروش آیفون ۱۷ پرو ممکن است دشوارتر از همیشه باشد
-
وعده ۵ ساله Vodafone برای گوشی‌ها: گارانتی طولانی و تعویض رایگان باتری
-
OpenAI از GPT-5 رونمایی کرد؛ هوش مصنوعی سریع‌تر و دقیق‌تر
-
احتمال رونمایی از GPT-5 در ۷ اوت توسط OpenAI
فرم ارسال دیدگاه
پر بازدید ترین اخبار
-
1
کدام کشورهای اروپایی مسافران واکسینه شده با «سینوفارم» را می‌پذیرند؟
-
2
آیفون 13 پرو و پرو مکس
-
3
ترکیبی که می تواند ویروس کرونا را از ریه دور کند !
-
4
قهرمان روس UFC در راه فوتبالیست شدن؟
-
5
چرا کف پاها در برخی از مواقع داغ می شوند؟
-
6
وضعیت جدید کریستین اریسکن توسط فدراسیون فوتبال دانمارک مشخص شد !
-
7
لاپورتا: تمام تلاشم را می‌کنم مسی در بارسلونا بماند
پر بحث ترین اخبار
-
1
پیدا شدن یک پای انسان در ساحل Oostende
-
2
جاده چالوس مسدود شد/ افزایش ۱.۹ درصدی تردد در جاده های کشور
-
3
کاهش صادرات گاز از سوی روسیه سبب رشد 5 درصدی قیمت گاز طبیعی در قاره سبز شده است !
-
4
توقف ارسال گاز روسیه به اروپا از طریق اوکراین
-
5
توسعه همکاری‌های مالی، بانکی و تجاری ایران و عمان
-
6
4 عارضه عجیب زیاده روی در مصرف شیر
-
7
هری کین در آستانه پیوستن به منچستریونایتد !
-
8
پل پوگبا و رکوردی خاص در لیگ جزیره !
تبلیغات
جدید ترین مقالات
جدید ترین اخبار مشابه
رسانه اینترنتی گپ گاه، داستان همنشینی سه واژه ی سرگرمی، مهارت و اطلاع رسانی است. این تارنمای اجتماعی هم ردیف با الگوهای موفق جهانی تلاش دارد، یک دورهمی حرفه‌ای برای ایرانیان خارج از کشور فراهم کند تا با فعالیت‌های مختلفی ازجمله چت دوستانه، سرگرمی، کاریابی یا یادگیری مهارت جدید به شما امکان دهد دانش خود را به اشتراک بگذارید و در رشته یا تخصص خاص خود اعتبار کسب کنید. گپ گاه سرزمین فرصت‌های جدید است.