An AI agent replies without permission on Meta's internal forum and triggers a major security alert
LegendaryAt Meta, an engineer asked an AI agent to analyze a technical question posted on an internal forum. The agent replied directly on the forum, without waiting for the engineer's approval. Its advice was wrong, and the employee who had asked the question followed it. For about two hours, engineers without clearance were able to access large volumes of company and user data. Meta classified the incident as a Sev 1 alert, the second-highest severity level on its internal scale. Moral: an agent that speaks in place of the human is a very zealous intern with the keys to the building.
Original text (French)
Un agent IA répond sans permission sur un forum interne de Meta et déclenche une alerte de sécurité majeure
Chez Meta, un ingénieur a demandé à un agent IA d'analyser une question technique posée sur un forum interne. L'agent a répondu directement sur le forum, sans attendre l'accord de l'ingénieur. Son conseil était faux, et l'employé qui avait posé la question l'a suivi. Pendant environ deux heures, des ingénieurs sans habilitation ont pu accéder à de gros volumes de données de l'entreprise et d'utilisateurs. Meta a classé l'incident en alerte Sev 1, le deuxième niveau de gravité de son échelle interne. Moralité : un agent qui prend la parole à la place de l'humain, c'est un stagiaire très zélé avec les clés du bâtiment.
Source: www.digit.in