KI-Roboter können gejailbreakt werden, und die Folgen werden verheerend sein

Forscher der Penn Engineering (USA) sollen in mehreren KI-gesteuerten Roboterplattformen bislang unbekannte Sicherheitslücken entdeckt haben.

Unsere Forschung zeigt, dass große Sprachmodelle (LLMs) derzeit im Allgemeinen nicht sicher genug sind, wenn sie in komplexe physische Hardware integriert werden “, sagte George Pappas, Professor für Elektro- und Systemtechnik bei der UPS Foundation, in einer Erklärung.

Pappas und sein Team entwickelten den Algorithmus RoboPAIR, den ersten Algorithmus, der LLM-gesteuerte Roboter knacken kann. Im Gegensatz zu bestehenden technischen Schnellfeuerangriffen auf Chatbots ist RoboPAIR speziell darauf ausgelegt, LLM-gesteuerte Roboter zu schädlichen physischen Aktionen zu veranlassen. Dazu gehört auch die humanoide Roboterplattform Atlas, die Boston Dynamics und das Toyota Research Institute (TRI) entwickeln.

RoboPAIR erreichte Berichten zufolge eine 100-prozentige Erfolgsquote beim Knacken dreier beliebter Roboterforschungsplattformen: des vierbeinigen Unitree Go2, des vierrädrigen Clearpath Robotics Jackal und des Dolphins LLM-Simulators für autonomes Fahren. Es dauerte nur wenige Tage, bis der Algorithmus vollen Zugriff auf diese Systeme erhielt und begann, Sicherheitsbarrieren zu umgehen. Sobald die Forscher die Kontrolle übernommen hatten, konnten sie die autonomen Roboterplattformen zu verschiedenen gefährlichen Aktionen anweisen, beispielsweise zum Durchfahren von Kreuzungen ohne anzuhalten.

Die Ergebnisse der ersten Bewertung zeigen, dass die Risiken geknackter LLMs über die Textgenerierung hinausgehen, da klar ist, dass geknackte Roboter in der realen Welt physischen Schaden anrichten können .“

KI-Roboter können „gejailbreakt“ werden, und die Folgen werden verheerend sein

Das Team von Penn Engineering arbeitet mit Plattformentwicklern zusammen, um ihre Systeme gegen weitere Eindringlinge abzusichern, weist jedoch darauf hin, dass diese Sicherheitsprobleme systembedingt sind und nur schwer vollständig behoben werden können.

Die Ergebnisse dieser Studie zeigen deutlich, dass die Einführung eines Sicherheitsansatzes entscheidend für die Freisetzung verantwortungsvoller Innovationen ist. Wir müssen die inhärenten Schwachstellen beheben, bevor wir KI-gesteuerte Roboter in der realen Welt einsetzen “, so das Team.

Ein sicherer Betrieb erfordert das Testen von KI-Systemen auf potenzielle Bedrohungen und Schwachstellen. Dies ist für den Schutz der KI-Systeme, die diese Schwachstellen verursachen, unerlässlich. Denn nur wenn Schwachstellen identifiziert werden, können Systeme getestet und sogar trainiert werden, um Risiken vorzubeugen.

Sign up and earn $1000 a day ⋙

Leave a Comment

2 Möglichkeiten zur Behebung von Netzwerküberlastungen, die das WLAN verlangsamen

2 Möglichkeiten zur Behebung von Netzwerküberlastungen, die das WLAN verlangsamen

WLAN-Netzwerke werden von vielen Faktoren beeinflusst, die über Router, Bandbreite und Störungen hinausgehen. Es gibt jedoch einige clevere Möglichkeiten, Ihr Netzwerk zu verbessern.

So führen Sie mit Tenorshare Reiboot ein Downgrade von iOS 17 auf iOS 16 ohne Datenverlust durch

So führen Sie mit Tenorshare Reiboot ein Downgrade von iOS 17 auf iOS 16 ohne Datenverlust durch

Wenn Sie auf Ihrem Telefon zur stabilen Version von iOS 16 zurückkehren möchten, finden Sie hier die grundlegende Anleitung zum Deinstallieren von iOS 17 und zum Downgrade von iOS 17 auf 16.

Was passiert mit dem Körper, wenn man täglich Joghurt isst?

Was passiert mit dem Körper, wenn man täglich Joghurt isst?

Joghurt ist ein tolles Lebensmittel. Ist es gesund, täglich Joghurt zu essen? Was passiert mit Ihrem Körper, wenn Sie täglich Joghurt essen? Finden wir es gemeinsam heraus!

Welche Reissorte ist am gesündesten?

Welche Reissorte ist am gesündesten?

In diesem Artikel werden die nahrhaftesten Reissorten besprochen und wie Sie den gesundheitlichen Nutzen der Reissorte Ihrer Wahl maximieren können.

So wachen Sie morgens pünktlich auf

So wachen Sie morgens pünktlich auf

Das Erstellen eines Schlafplans und einer Schlafenszeitroutine, das Ändern Ihres Weckers und die Anpassung Ihrer Ernährung sind einige der Maßnahmen, die Ihnen helfen können, besser zu schlafen und morgens pünktlich aufzuwachen.

Mieten Sie bitte! Vermieter-Sim-Tipps für Anfänger

Mieten Sie bitte! Vermieter-Sim-Tipps für Anfänger

Miete bitte! Landlord Sim ist ein Simulationsspiel für iOS und Android. Du spielst den Vermieter eines Apartmentkomplexes und vermietest eine Wohnung mit dem Ziel, die Innenausstattung deiner Wohnungen zu modernisieren und sie für die Vermietung vorzubereiten.

Neueste Badezimmer-Tower-Defense-Codes und wie man Codes eingibt

Neueste Badezimmer-Tower-Defense-Codes und wie man Codes eingibt

Hol dir Roblox-Spielcodes für Bathroom Tower Defense und löse sie gegen tolle Belohnungen ein. Damit kannst du Türme mit höherem Schaden verbessern oder freischalten.

Warum ChatGPT besser ist als DeepSeek

Warum ChatGPT besser ist als DeepSeek

In DeepSeek waren anfangs große Hoffnungen gesetzt. Der KI-Chatbot wurde als starker Konkurrent von ChatGPT vermarktet und versprach intelligente Konversationsfunktionen und -erlebnisse.

Lernen Sie Fireflies.ai kennen: Die kostenlose KI-Sekretärin, die Ihnen stundenlange Arbeit erspart

Lernen Sie Fireflies.ai kennen: Die kostenlose KI-Sekretärin, die Ihnen stundenlange Arbeit erspart

Beim Notieren anderer wichtiger Dinge übersieht man leicht wichtige Details. Und während des Chats Notizen zu machen, kann ablenkend sein. Fireflies.ai ist die Lösung.

Wie man Axolotl in Minecraft züchtet, Minecraft Salamander zähmt

Wie man Axolotl in Minecraft züchtet, Minecraft Salamander zähmt

Axolot Minecraft ist für Spieler ein großartiger Helfer bei Unterwasseroperationen, wenn sie wissen, wie man ihn benutzt.

A Quiet Place: The Road Ahead PC-Spielkonfiguration

A Quiet Place: The Road Ahead PC-Spielkonfiguration

Die Konfiguration von „A Quiet Place: The Road Aheads“ wird ziemlich hoch bewertet, Sie müssen also die Konfiguration berücksichtigen, bevor Sie sich zum Herunterladen entscheiden.

Die mysteriöse Kraft der Zahl 33 in der Numerologie

Die mysteriöse Kraft der Zahl 33 in der Numerologie

In der Numerologie gilt die Zahl 33 oft als kraftvolle und mystische Zahl. Hier erfahren Sie, was Sie über die Zahl 33 in der Numerologie wissen müssen.

Mikroplastik in Lebensmittelverpackungen kann das Herz schädigen und wie man dem vorbeugen kann

Mikroplastik in Lebensmittelverpackungen kann das Herz schädigen und wie man dem vorbeugen kann

Mikroplastik kann herzschädigend sein. Hier erfahren Sie alles Wissenswerte über diese schockierende Studie – und Expertentipps, wie Sie Ihre Gesundheit schützen können.

Was ist dunkle Energie?

Was ist dunkle Energie?

Dunkle Energie treibt die beschleunigte Expansion des Universums voran, doch ihre Natur bleibt ein völliges Rätsel. Hier erfahren Sie alles Wissenswerte über Dunkle Energie.

Gmail fügt blaues Häkchen hinzu, um „seriöse“ Absender zu überprüfen

Gmail fügt blaues Häkchen hinzu, um „seriöse“ Absender zu überprüfen

Mit der Entwicklung und Popularität von Social-Networking-Plattformen ist das blaue Häkchen seit langem zu einem der mächtigsten Zeichen in der Internetwelt geworden.