Les cybercriminels utilisent l’IA pour pirater les entreprises

Les pirates ont récemment exploité le chatbot Aide AI d’Anthropic pour orchestrer les opérations d’extorsion « à grande échelle », un programme d’emploi frauduleux et la vente de ransomware générés par l’AI-ciblage et d’exporter au moins 17 entreprises, la société dit dans un rapport.

Le rapport détaille comment son chatbot a été manipulé par les pirates (avec peu ou pas de connaissances techniques) pour identifier les entreprises vulnérables, générer des logiciels malveillants sur mesure, organiser des données volées et des exigences de rançon artisanale avec automatisation et vitesse.

« L’IA agentique a été armée », a déclaré Anthropic.

En rapport: Instagram Head a été victime d’une «attaque de phishing sophistiquée»

Ce n’est pas encore public quelles entreprises étaient ciblées ni combien d’argent le pirate, mais le rapport a noté que extorsion Les demandes ont atteint 500 000 $.

Détails clés de l’attaque

L’équipe interne d’Anthropic a détecté l’opération du pirate, observant l’utilisation des fonctionnalités de codage de Claude pour Pinpoint victimes Et construire un logiciel malveillant avec des invites simples – un processus appelé «piratage d’ambiance», un jeu sur »codage d’ambiance«  » qui utilise l’IA pour écrire du code avec des invites en anglais simple.

Après détection, Anthropic a dit Il a répondu en suspendant les comptes, en resserrant les filtres de sécurité et en partageant les meilleures pratiques pour que les organisations se défendent contre les menaces émergentes d’origine sur l’IA.

En rapport: Cette arnaque dirigée par l’IA épuise les fonds de retraite – et personne n’est en sécurité, selon le FBI

Comment les entreprises peuvent se protéger des pirates d’IA

Dans cet esprit, le SBA Décompose comment les propriétaires de petites entreprises peuvent se protéger:

• Renforcer la cyber-hygiène de base: Encouragez le personnel à reconnaître les tentatives de phishing, à utiliser des mots de passe complexes et à activer l’authentification multi-facteurs.

• Consulter les professionnels de la cybersécurité: Utilisez des audits externes et des évaluations de sécurité régulières, en particulier pour les entreprises qui gèrent les données sensibles.

• Surveiller les risques d’IA émergents: Restez informé des progrès des outils de productivité alimentés par l’IA et des risques associés en suivant les rapports de fournisseurs comme Anthropic.

• Tirer parti des partenariats de sécurité: Envisagez de rejoindre des groupes de l’industrie ou des réseaux qui partagent des informations sur les menaces et les meilleures pratiques pour protéger contre la criminalité alimentée par l’IA.