Запрошення до календаря Pwned by Google.
MCP відкриває нову величезну область поверхні атаки для вразливостей безпеки.
@OpenAI щойно ввів у ChatGPT MCP, який може читати ваш календар. Але це внесло новий вид вразливості через запрошення до календаря, що містять джейлбрейки, які передають приватні дані користувачів 3rd party MCP.
Ми отримали ChatGPT для витоку ваших 💀💀 особистих даних електронної пошти
Все, що вам потрібно? Адреса електронної пошти потерпілого. ⛓️💥🚩📧
У середу @OpenAI додав повну підтримку інструментів MCP (Model Context Protocol) у ChatGPT. Що дозволяє ChatGPT підключатися та читати ваші Gmail, Calendar, Sharepoint, Notion та інші, винайдені @AnthropicAI
Але ось фундаментальна проблема: агенти штучного інтелекту на кшталт ChatGPT виконують ваші команди, а не здоровий глузд.
І лише за допомогою вашої електронної пошти нам вдалося викрасти всю вашу особисту інформацію.
Ось як ми це зробили:
1. Зловмисник надсилає жертві запрошення в календарі з пропозицією про джейлбрейк, просто зі своєю електронною поштою. Потерпілому не потрібно приймати запрошення.
2. Дочекалися, поки користувач попросить ChatGPT допомогти підготуватися до їхнього дня, подивившись його календар
3. ChatGPT читає запрошення з джейлбрейкнутого календаря. Тепер ChatGPT викрадений зловмисником і діятиме за командою зловмисника. Шукає ваші приватні електронні листи та надсилає дані на електронну пошту зловмисника.
Наразі OpenAI зробила MCP доступними лише в «режимі розробника» і вимагає ручного схвалення людиною для кожної сесії, але втома від прийняття рішень – це реальна річ, і нормальні люди просто довірятимуть штучному інтелекту, не знаючи, що робити, і натискатимуть «схвалити», «затвердити», «затвердити».
Пам'ятайте, що штучний інтелект може бути надзвичайно розумним, але його можна обдурити та фішингувати неймовірно дурними способами, щоб спричинити витік ваших даних.
Інструменти ChatGPT + становлять серйозну загрозу безпеці