+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
+++
Mann mit Laptop (Archiv)
Foto: via dts Nachrichtenagentur
London – Ein neuer Sicherheitsvorfall, bei dem ein KI-Agent versuchte, einen Menschen mit schädlichem Code zu täuschen, hat die Alarmglocken bei Experten in Großbritannien läuten lassen.
Das britische KI-Sicherheitsinstitut teilte mit, dass der Vorfall während Tests mit Modellen von Anthropic und OpenAI entdeckt worden sei.
Der schwerwiegendste Fall betraf Mythos 5, das versucht haben soll, schädlichen Code in die Open-Source-Softwareentwicklungsplattform GitHub einzuschleusen. Dazu erstellte es gefälschte Online-Identitäten, um einen Menschen zu überreden, ihm Zugang zu gewähren und den Code zu genehmigen. Die Person erkannte jedoch den schädlichen Code und verweigerte die Genehmigung, sodass kein realer Schaden entstand. Dennoch warnte das Institut vor den Risiken, die mit der Autonomie und Täuschung durch KI verbunden sind.
Anthropic erklärte, dass es eng mit dem britischen Institut zusammenarbeite, um weitere Details zu erhalten. OpenAI schrieb in einem Blogbeitrag, dass es sich verpflichtet fühle, branchenübergreifend zusammenzuarbeiten, um sichere Praktiken für die Durchführung von Hochrisikobewertungen zu stärken. (dts Nachrichtenagentur)
Diesen Artikel drucken
Das könnte Sie auch interessieren:
- Mit fingierten Phishing-Mails IT-Sicherheit der Bundestagsabgeordneten getestet
Berlin – In Berlin wird offenbar getestet, ob die Abgeordneten und ihre Mitarbeiter auf sogenannte Phishing-Mails hereinfallen. Laut einem „Spiegel“-Bericht erhielten Politiker ... - Vorsicht vor Phishing-Mails: Knittelsheimer um 10.000 Euro betrogen
Knittelsheim – Eine neue Welle von Phishing-Mails macht derzeit die Runde im Internet. Die Absender geben sich als seriöse Anbieter aus und ... - BND überprüfte fast 2,9 Millionen E-Mails
Berlin – Der Bundesnachrichtendienst (BND) hat im Jahr 2011 fast 2,9 Millionen E-Mails, SMS und andere Telekommunikationsverkehre wegen des Verdachts auf Terrorismus, ... - Magdeburg-Attentäter verschickt Briefe an Journalisten
Hamburg – Der Attentäter des Anschlags auf den Magdeburger Weihnachtsmarkt hat sich mit einem Brief an Medienvertreter gewandt. Wie der „Spiegel“ berichtet, ... - RKI registriert über 200 Hass-Mails seit Corona-Beginn
Corona-Verschwörungsmythen werden durch Reichsbürger und sogenannte Selbstverwalter, aber auch Personen – im Einzelfall auch Parteien – aus dem rechtsextremistischen Spektrum veranlasst und ... - Anthropic-Sperre treibt Nachfrage nach KI außerhalb der USA
Die Sperre der leistungsstärksten KI-Modelle von Anthropic für Nutzer und Unternehmen außerhalb der USA sorgt für einen sprunghaften Anstieg der Nachfrage nach ... - Erneuter Fall von Quishing: Betrügerische QR-Codes in Mails im Umlauf
Ein Notfallset für das Auto als Dankeschön für die Teilnahme an einer Umfrage – lediglich die Versandkosten müsse man zahlen: Das ist ... - Phishing-Warnung: Betrüger geben sich als Stadt Neustadt aus
Neustadt – Die Stadtverwaltung Neustadt an der Weinstraße warnt aktuell vor einer Welle von betrügerischen E-Mails. Kriminelle geben sich als Mitarbeiter der ... - Schauspieler und „Menschen für Menschen“-Gründer Karlheinz Böhm gestorben
Salzburg- Karlheinz Böhm, Schauspieler und Gründer der Hilfsorganisation „Menschen für Menschen“, ist tot. Er starb am Donnerstagabend im Alter von 86 Jahren ... - Messerangriff in Zug in England – mehrere Menschen in Lebensgefahr
Huntingdon – Nach einem Messerangriff in einem Zug in England am Samstagabend schweben mehrere Menschen in Lebensgefahr. Neun Personen erlitten lebensbedrohliche Verletzungen, ... - Florida: Irak-Veteran erschießt fünf Menschen an Flughafen
Fort Lauderdale – Ein Mann hat am Freitag am internationalen Flughafen der Stadt Fort Lauderdale im US-Bundesstaat Florida fünf Menschen erschossen. Bei ... - BKA warnt vor neuer Phishing-Mail „VeriSign“
Berlin- Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Bundeskriminalamt (BKA) warnen vor derzeit im Umlauf befindlichen E-Mails mit dem ...
