Мы заставили ChatGPT слить ваши личные данные электронной почты 💀💀 Все, что вам нужно? Электронный адрес жертвы. ⛓️‍💥🚩📧 В среду @OpenAI добавила полную поддержку инструментов MCP (Model Context Protocol) в ChatGPT. Это позволяет ChatGPT подключаться и читать вашу почту Gmail, Календарь, Sharepoint, Notion и многое другое, изобретенное @AnthropicAI. Но вот основная проблема: агенты ИИ, такие как ChatGPT, следуют вашим командам, а не вашему здравому смыслу. И всего лишь с вашим электронным адресом мы смогли экстрагировать всю вашу личную информацию. Вот как мы это сделали: 1. Нападающий отправляет приглашение в календарь с джейлбрейк-промптом жертве, просто с их электронной почтой. Жертве не нужно принимать приглашение. 2. Ждали, пока пользователь попросит ChatGPT помочь подготовиться к своему дню, посмотрев на свой календарь. 3. ChatGPT читает джейлбрейк-приглашение в календаре. Теперь ChatGPT захвачен нападающим и будет действовать по команде нападающего. Ищет ваши личные электронные письма и отправляет данные на электронную почту нападающего. На данный момент OpenAI сделала MCP доступными только в "режиме разработчика" и требует ручного одобрения человека для каждой сессии, но усталость от принятия решений — это реальная вещь, и обычные люди просто доверят ИИ, не зная, что делать, и будут нажимать одобрить, одобрить, одобрить. Помните, что ИИ может быть суперумным, но его можно обмануть и фишить невероятно глупыми способами, чтобы слить ваши данные. ChatGPT + Инструменты представляют собой серьезный риск для безопасности.