Forscher der Penn Engineering (USA) sollen in mehreren KI-gesteuerten Roboterplattformen bislang unbekannte Sicherheitslücken entdeckt haben.
„ Unsere Forschung zeigt, dass große Sprachmodelle (LLMs) derzeit im Allgemeinen nicht sicher genug sind, wenn sie in komplexe physische Hardware integriert werden “, sagte George Pappas, Professor für Elektro- und Systemtechnik bei der UPS Foundation, in einer Erklärung.
Pappas und sein Team entwickelten den Algorithmus RoboPAIR, den ersten Algorithmus, der LLM-gesteuerte Roboter knacken kann. Im Gegensatz zu bestehenden technischen Schnellfeuerangriffen auf Chatbots ist RoboPAIR speziell darauf ausgelegt, LLM-gesteuerte Roboter zu schädlichen physischen Aktionen zu veranlassen. Dazu gehört auch die humanoide Roboterplattform Atlas, die Boston Dynamics und das Toyota Research Institute (TRI) entwickeln.
RoboPAIR erreichte Berichten zufolge eine 100-prozentige Erfolgsquote beim Knacken dreier beliebter Roboterforschungsplattformen: des vierbeinigen Unitree Go2, des vierrädrigen Clearpath Robotics Jackal und des Dolphins LLM-Simulators für autonomes Fahren. Es dauerte nur wenige Tage, bis der Algorithmus vollen Zugriff auf diese Systeme erhielt und begann, Sicherheitsbarrieren zu umgehen. Sobald die Forscher die Kontrolle übernommen hatten, konnten sie die autonomen Roboterplattformen zu verschiedenen gefährlichen Aktionen anweisen, beispielsweise zum Durchfahren von Kreuzungen ohne anzuhalten.
„ Die Ergebnisse der ersten Bewertung zeigen, dass die Risiken geknackter LLMs über die Textgenerierung hinausgehen, da klar ist, dass geknackte Roboter in der realen Welt physischen Schaden anrichten können .“
Das Team von Penn Engineering arbeitet mit Plattformentwicklern zusammen, um ihre Systeme gegen weitere Eindringlinge abzusichern, weist jedoch darauf hin, dass diese Sicherheitsprobleme systembedingt sind und nur schwer vollständig behoben werden können.
„ Die Ergebnisse dieser Studie zeigen deutlich, dass die Einführung eines Sicherheitsansatzes entscheidend für die Freisetzung verantwortungsvoller Innovationen ist. Wir müssen die inhärenten Schwachstellen beheben, bevor wir KI-gesteuerte Roboter in der realen Welt einsetzen “, so das Team.
Ein sicherer Betrieb erfordert das Testen von KI-Systemen auf potenzielle Bedrohungen und Schwachstellen. Dies ist für den Schutz der KI-Systeme, die diese Schwachstellen verursachen, unerlässlich. Denn nur wenn Schwachstellen identifiziert werden, können Systeme getestet und sogar trainiert werden, um Risiken vorzubeugen.
WLAN-Netzwerke werden von vielen Faktoren beeinflusst, die über Router, Bandbreite und Störungen hinausgehen. Es gibt jedoch einige clevere Möglichkeiten, Ihr Netzwerk zu verbessern.
Wenn Sie auf Ihrem Telefon zur stabilen Version von iOS 16 zurückkehren möchten, finden Sie hier die grundlegende Anleitung zum Deinstallieren von iOS 17 und zum Downgrade von iOS 17 auf 16.
Joghurt ist ein tolles Lebensmittel. Ist es gesund, täglich Joghurt zu essen? Was passiert mit Ihrem Körper, wenn Sie täglich Joghurt essen? Finden wir es gemeinsam heraus!
In diesem Artikel werden die nahrhaftesten Reissorten besprochen und wie Sie den gesundheitlichen Nutzen der Reissorte Ihrer Wahl maximieren können.
Das Erstellen eines Schlafplans und einer Schlafenszeitroutine, das Ändern Ihres Weckers und die Anpassung Ihrer Ernährung sind einige der Maßnahmen, die Ihnen helfen können, besser zu schlafen und morgens pünktlich aufzuwachen.
Miete bitte! Landlord Sim ist ein Simulationsspiel für iOS und Android. Du spielst den Vermieter eines Apartmentkomplexes und vermietest eine Wohnung mit dem Ziel, die Innenausstattung deiner Wohnungen zu modernisieren und sie für die Vermietung vorzubereiten.
Hol dir Roblox-Spielcodes für Bathroom Tower Defense und löse sie gegen tolle Belohnungen ein. Damit kannst du Türme mit höherem Schaden verbessern oder freischalten.
In DeepSeek waren anfangs große Hoffnungen gesetzt. Der KI-Chatbot wurde als starker Konkurrent von ChatGPT vermarktet und versprach intelligente Konversationsfunktionen und -erlebnisse.
Beim Notieren anderer wichtiger Dinge übersieht man leicht wichtige Details. Und während des Chats Notizen zu machen, kann ablenkend sein. Fireflies.ai ist die Lösung.
Axolot Minecraft ist für Spieler ein großartiger Helfer bei Unterwasseroperationen, wenn sie wissen, wie man ihn benutzt.
Die Konfiguration von „A Quiet Place: The Road Aheads“ wird ziemlich hoch bewertet, Sie müssen also die Konfiguration berücksichtigen, bevor Sie sich zum Herunterladen entscheiden.
In der Numerologie gilt die Zahl 33 oft als kraftvolle und mystische Zahl. Hier erfahren Sie, was Sie über die Zahl 33 in der Numerologie wissen müssen.
Mikroplastik kann herzschädigend sein. Hier erfahren Sie alles Wissenswerte über diese schockierende Studie – und Expertentipps, wie Sie Ihre Gesundheit schützen können.
Dunkle Energie treibt die beschleunigte Expansion des Universums voran, doch ihre Natur bleibt ein völliges Rätsel. Hier erfahren Sie alles Wissenswerte über Dunkle Energie.
Mit der Entwicklung und Popularität von Social-Networking-Plattformen ist das blaue Häkchen seit langem zu einem der mächtigsten Zeichen in der Internetwelt geworden.
