KI-Roboter können gejailbreakt werden, und die Folgen werden verheerend sein

Forscher der Penn Engineering (USA) sollen in mehreren KI-gesteuerten Roboterplattformen bislang unbekannte Sicherheitslücken entdeckt haben.

Unsere Forschung zeigt, dass große Sprachmodelle (LLMs) derzeit im Allgemeinen nicht sicher genug sind, wenn sie in komplexe physische Hardware integriert werden “, sagte George Pappas, Professor für Elektro- und Systemtechnik bei der UPS Foundation, in einer Erklärung.

Pappas und sein Team entwickelten den Algorithmus RoboPAIR, den ersten Algorithmus, der LLM-gesteuerte Roboter knacken kann. Im Gegensatz zu bestehenden technischen Schnellfeuerangriffen auf Chatbots ist RoboPAIR speziell darauf ausgelegt, LLM-gesteuerte Roboter zu schädlichen physischen Aktionen zu veranlassen. Dazu gehört auch die humanoide Roboterplattform Atlas, die Boston Dynamics und das Toyota Research Institute (TRI) entwickeln.

RoboPAIR erreichte Berichten zufolge eine 100-prozentige Erfolgsquote beim Knacken dreier beliebter Roboterforschungsplattformen: des vierbeinigen Unitree Go2, des vierrädrigen Clearpath Robotics Jackal und des Dolphins LLM-Simulators für autonomes Fahren. Es dauerte nur wenige Tage, bis der Algorithmus vollen Zugriff auf diese Systeme erhielt und begann, Sicherheitsbarrieren zu umgehen. Sobald die Forscher die Kontrolle übernommen hatten, konnten sie die autonomen Roboterplattformen zu verschiedenen gefährlichen Aktionen anweisen, beispielsweise zum Durchfahren von Kreuzungen ohne anzuhalten.

Die Ergebnisse der ersten Bewertung zeigen, dass die Risiken geknackter LLMs über die Textgenerierung hinausgehen, da klar ist, dass geknackte Roboter in der realen Welt physischen Schaden anrichten können .“

KI-Roboter können „gejailbreakt“ werden, und die Folgen werden verheerend sein

Das Team von Penn Engineering arbeitet mit Plattformentwicklern zusammen, um ihre Systeme gegen weitere Eindringlinge abzusichern, weist jedoch darauf hin, dass diese Sicherheitsprobleme systembedingt sind und nur schwer vollständig behoben werden können.

Die Ergebnisse dieser Studie zeigen deutlich, dass die Einführung eines Sicherheitsansatzes entscheidend für die Freisetzung verantwortungsvoller Innovationen ist. Wir müssen die inhärenten Schwachstellen beheben, bevor wir KI-gesteuerte Roboter in der realen Welt einsetzen “, so das Team.

Ein sicherer Betrieb erfordert das Testen von KI-Systemen auf potenzielle Bedrohungen und Schwachstellen. Dies ist für den Schutz der KI-Systeme, die diese Schwachstellen verursachen, unerlässlich. Denn nur wenn Schwachstellen identifiziert werden, können Systeme getestet und sogar trainiert werden, um Risiken vorzubeugen.

Sign up and earn $1000 a day ⋙

Leave a Comment

So beheben Sie den Fehler „Beim Zurücksetzen Ihres PCs ist ein Problem aufgetreten“

So beheben Sie den Fehler „Beim Zurücksetzen Ihres PCs ist ein Problem aufgetreten“

Wenn die Meldung „Beim Zurücksetzen Ihres PCs ist ein Problem aufgetreten. Es wurden keine Änderungen vorgenommen“, „PC konnte nicht zurückgesetzt werden“ oder „Beim Aktualisieren Ihres PCs ist ein Problem aufgetreten“ angezeigt wird, können Sie Ihren PC nicht auf die Werkseinstellungen zurücksetzen.

So hören Sie Apple Podcasts in Ihrem Browser

So hören Sie Apple Podcasts in Ihrem Browser

Apple Podcasts ist jetzt in Desktop-Browsern wie Firefox, Chrome, Edge und Safari verfügbar. Melden Sie sich einfach bei Ihrem Apple-Konto an, um Podcasts anzuhören und Ihren Lieblings-Podcast-Kanälen zu folgen.

So nutzen Sie die KI-Funktionen von Microsoft 365 sinnvoll

So nutzen Sie die KI-Funktionen von Microsoft 365 sinnvoll

Microsoft bietet KI-gestützte Copilot-Funktionen jetzt als Teil bestehender Microsoft 365 Personal- und Family-Abonnements an – ganz ohne Zusatzmodul. Die Möglichkeiten sind jedoch nicht unbegrenzt – sie basieren auf einem neuen System namens KI-Credits.

Neuester Alita Tien Len Code

Neuester Alita Tien Len Code

Sie erhalten Rekrutierungstickets, Durchbruchssteine, Gold und sogar 5-Sterne-SSR-Charaktere in Code Tien Len Alita.

Neuester Peroxid-Code und wie man den Code eingibt

Neuester Peroxid-Code und wie man den Code eingibt

Bei den den Spielern gegebenen Peroxid-Codes handelt es sich meist um Mengen an Produktessenz, die im Spiel häufig verwendet werden.

Soll ich Coin Master-Spins hacken? Verliere ich durch das Hacken von Coin Master-Spins mein Konto?

Soll ich Coin Master-Spins hacken? Verliere ich durch das Hacken von Coin Master-Spins mein Konto?

Hack Spin Coin Master, Hack Coin Master Spins ist die Methode, die viele Coin Master-Spieler verwenden, wenn sie eine große Anzahl von Spins erhalten möchten.

So beheben Sie den Fehler „Sie haben keine Berechtigung zum Speichern an diesem Speicherort“ unter Windows

So beheben Sie den Fehler „Sie haben keine Berechtigung zum Speichern an diesem Speicherort“ unter Windows

Wenn Windows die Fehlermeldung „Sie verfügen nicht über die Berechtigung, an diesem Ort zu speichern“ anzeigt, können Sie die Dateien nicht in den gewünschten Ordnern speichern.

Neuester X-Dog-Code und wie man den Code eingibt

Neuester X-Dog-Code und wie man den Code eingibt

Code X-Dog bietet Spielern attraktive Belohnungen. So müssen sie sich beim ersten Spielstart nicht mehr mit der Suche nach Gegenständen herumschlagen.

Standardausrüstung für Caitlyn DTCL Saison 10, Teamaufbau für Caitlyn TFT Saison 10

Standardausrüstung für Caitlyn DTCL Saison 10, Teamaufbau für Caitlyn TFT Saison 10

Standardgegenstände für Caitlyn DTCL, Saison 10, sind fertig. Davor hatte sie einen niedrigen Preis – 1 Gold – und war normalerweise diejenige, die die Gegenstände für spätere andere Champions aufbewahrte.

Neuester Huyen Tuong 3Q-Code und wie man den Code eingibt

Neuester Huyen Tuong 3Q-Code und wie man den Code eingibt

Der neueste Huyen Tuong 3Q-Code ist für Spieler gedacht und unterstützt neue Spieler bei ihrem ersten Eintritt in das 3Q-Schlachtfeld mit den notwendigsten Gegenständen.

Fiora DTCL: Standard-Build für Fiora Demacia Challenger

Fiora DTCL: Standard-Build für Fiora Demacia Challenger

In dieser Saison 9.5 von Truth Arena wird Fiora Yasuo definitiv auf der 4-Gold-Challenger-Hauptposition ersetzen.

Gesundheitsrisiken eines Vitamin-B12-Mangels

Gesundheitsrisiken eines Vitamin-B12-Mangels

Ihre roten Blutkörperchen, Nerven und Ihr Gehirn sind auf Vitamin B12 angewiesen. Manche Menschen nehmen jedoch nicht genug von diesem Nährstoff zu sich, und ein Vitamin-B12-Mangel kann eine Reihe von gesundheitlichen Problemen verursachen.

Was passiert mit Ihrem Körper, wenn Sie jeden Tag einen BH tragen?

Was passiert mit Ihrem Körper, wenn Sie jeden Tag einen BH tragen?

Abgesehen davon, dass sie die Grundlage für Ihr Outfit bilden und Ihnen ein besseres Aussehen verleihen, sind BHs auch so konzipiert, dass sie Ihnen in vielerlei Hinsicht Vorteile bieten.

ChatGPT stürzt weltweit ab

ChatGPT stürzt weltweit ab

Am Morgen des 22. November kam es beim Chatbot ChatGPT von OpenAI zu weitreichenden Problemen und viele Benutzer auf der ganzen Welt konnten diese KI-Anwendung nicht verwenden.

So verwenden Sie den WiFi Analyzer, um Ihre WLAN-Verbindung zu verbessern

So verwenden Sie den WiFi Analyzer, um Ihre WLAN-Verbindung zu verbessern

Der Kauf eines neuen WLAN-Routers allein reicht nicht aus, um Ihr Netzwerk zu verbessern. Um das Beste aus Ihrem WLAN herauszuholen, müssen Sie sicherstellen, dass Sie die beste Reichweite, das beste Signal und die beste Frequenz erhalten.