Meta heeft een beveiligingslek gedicht in zijn AI-chatbotplatform, waarmee gebruikers per ongeluk toegang konden krijgen tot privéprompts en AI-antwoorden van anderen. De bug werd op 26 december 2024 gemeld door beveiligingsonderzoeker Sandeep Hodkasia, oprichter van het bedrijf AppSecure. Meta loste het probleem op 24 januari op en stelde dat er geen bewijs is gevonden van kwaadwillende exploitatie.
Beveiligingslek
Hodkasia ontdekte het lek tijdens een analyse van hoe ingelogde gebruikers AI-prompts konden bewerken om nieuwe tekst of afbeeldingen te genereren. Tijdens het aanpassen van een prompt viel hem op dat Meta’s servers elk verzoek een uniek nummer toekennen. Door dit nummer handmatig te wijzigen in de netwerkverzoeken van zijn browser, kreeg hij toegang tot prompts en gegenereerde AI-inhoud van andere gebruikers.
Autorisatiecontrole
Het probleem zat in de autorisatiecontrole op Meta’s servers. Deze verifieerden niet goed of een gebruiker daadwerkelijk het recht had om de bijbehorende inhoud op te vragen. Bovendien waren de gegenereerde promptnummers relatief eenvoudig te raden, waardoor het in theorie mogelijk was om via geautomatiseerde scripts duizenden privéprompts van andere gebruikers op te vragen.
Voor zijn ontdekking ontving Hodkasia een beloning van $10.000 van Meta, als onderdeel van het bug bounty-programma van het bedrijf. Tegenover TechCrunch liet Meta-woordvoerder Ryan Daniels weten dat het lek inmiddels is gedicht en dat de onderzoeker naar behoren is beloond.
Privacy
De onthulling van deze bug komt op een gevoelig moment. Techreuzen als Meta, Google en OpenAI werken in hoog tempo aan de ontwikkeling van AI-producten, maar worden daarbij steeds vaker geconfronteerd met kwetsbaarheden op het gebied van privacy en beveiliging. Eerder dit jaar kreeg Meta al kritiek nadat gebruikers onbedoeld vertrouwelijke AI-gesprekken publiek hadden gedeeld via de Meta AI-app.
Hoewel het huidige lek geen schade lijkt te hebben aangericht, onderstreept het de noodzaak van striktere beveiliging en controle bij de inzet van generatieve AI. De technologie ontwikkelt zich razendsnel, maar gebruikersvertrouwen moet even snel worden beschermd.