Získali jsme ChatGPT, aby unikla vaše soukromá e-mailová data 💀💀 Vše, co potřebujete? E-mailová adresa oběti. ⛓️‍💥🚩📧 Ve středu @OpenAI přidal plnou podporu nástrojů MCP (Model Context Protocol) v ChatGPT. Umožňuje ChatGPT připojit se a číst váš Gmail, Kalendář, Sharepoint, Notion a další, které vynalezl @AnthropicAI Zde je však základní problém: Agenti umělé inteligence, jako je ChatGPT, se řídí vašimi příkazy, nikoli vaším zdravým rozumem. A pouze s vaším e-mailem se nám podařilo získat všechny vaše soukromé informace. Zde je návod, jak jsme to udělali: 1. Útočník pošle oběti pozvánku do kalendáře s výzvou k útěku z vězení, pouze s jejím e-mailem. Není třeba, aby oběť pozvánku přijala. 2. Čekali, až uživatel požádá ChatGPT o pomoc s přípravou na svůj den tím, že se podívá do svého kalendáře 3. ChatGPT přečte pozvánku do kalendáře s jailbreaknutým časem. Nyní je ChatGPT unesen útočníkem a bude jednat na příkaz útočníka. Prohledá vaše soukromé e-maily a odešle data na e-mail útočníka. Prozatím OpenAI zpřístupnila MCP pouze v "režimu vývojáře" a vyžaduje ruční lidské schválení pro každou relaci, ale únava z rozhodování je skutečná věc a normální lidé budou umělé inteligenci věřit, aniž by věděli, co dělat, a kliknou na schválit, schválit, schválit. Pamatujte, že umělá inteligence může být super chytrá, ale může být oklamána a phishingována neuvěřitelně hloupými způsoby, aby unikla vaše data. ChatGPT + Tools představuje vážné bezpečnostní riziko