Forscher der Penn Engineering (USA) sollen in mehreren KI-gesteuerten Roboterplattformen bislang unbekannte Sicherheitslücken entdeckt haben.
„ Unsere Forschung zeigt, dass große Sprachmodelle (LLMs) derzeit im Allgemeinen nicht sicher genug sind, wenn sie in komplexe physische Hardware integriert werden “, sagte George Pappas, Professor für Elektro- und Systemtechnik bei der UPS Foundation, in einer Erklärung.
Pappas und sein Team entwickelten den Algorithmus RoboPAIR, den ersten Algorithmus, der LLM-gesteuerte Roboter knacken kann. Im Gegensatz zu bestehenden technischen Schnellfeuerangriffen auf Chatbots ist RoboPAIR speziell darauf ausgelegt, LLM-gesteuerte Roboter zu schädlichen physischen Aktionen zu veranlassen. Dazu gehört auch die humanoide Roboterplattform Atlas, die Boston Dynamics und das Toyota Research Institute (TRI) entwickeln.
RoboPAIR erreichte Berichten zufolge eine 100-prozentige Erfolgsquote beim Knacken dreier beliebter Roboterforschungsplattformen: des vierbeinigen Unitree Go2, des vierrädrigen Clearpath Robotics Jackal und des Dolphins LLM-Simulators für autonomes Fahren. Es dauerte nur wenige Tage, bis der Algorithmus vollen Zugriff auf diese Systeme erhielt und begann, Sicherheitsbarrieren zu umgehen. Sobald die Forscher die Kontrolle übernommen hatten, konnten sie die autonomen Roboterplattformen zu verschiedenen gefährlichen Aktionen anweisen, beispielsweise zum Durchfahren von Kreuzungen ohne anzuhalten.
„ Die Ergebnisse der ersten Bewertung zeigen, dass die Risiken geknackter LLMs über die Textgenerierung hinausgehen, da klar ist, dass geknackte Roboter in der realen Welt physischen Schaden anrichten können .“
Das Team von Penn Engineering arbeitet mit Plattformentwicklern zusammen, um ihre Systeme gegen weitere Eindringlinge abzusichern, weist jedoch darauf hin, dass diese Sicherheitsprobleme systembedingt sind und nur schwer vollständig behoben werden können.
„ Die Ergebnisse dieser Studie zeigen deutlich, dass die Einführung eines Sicherheitsansatzes entscheidend für die Freisetzung verantwortungsvoller Innovationen ist. Wir müssen die inhärenten Schwachstellen beheben, bevor wir KI-gesteuerte Roboter in der realen Welt einsetzen “, so das Team.
Ein sicherer Betrieb erfordert das Testen von KI-Systemen auf potenzielle Bedrohungen und Schwachstellen. Dies ist für den Schutz der KI-Systeme, die diese Schwachstellen verursachen, unerlässlich. Denn nur wenn Schwachstellen identifiziert werden, können Systeme getestet und sogar trainiert werden, um Risiken vorzubeugen.
Apple hat eine eigene Event-Management-App namens „Invites“ veröffentlicht. Mit dieser App können Sie Events erstellen, Einladungen versenden und Zusagen verwalten.
Hier sind alle Heroes 3-Codes, Heroes 3-Cheats für alle Versionen wie Heroes 3 WoG-Cheat, Heroes 3 SoD, Heroes 3 of Might and Magic
Der neueste Tay Du VNG-Code bietet Spielern eine Reihe attraktiver Belohnungen wie Elixiere, Silber, Goldbarren, Belohnungstruhen und eine Reihe anderer Gegenstände, die neuen Spielern das Freischalten allgemeiner Runden erleichtern.
Mark Zuckerberg postete kürzlich ein Foto von sich, auf dem er an einem Laptop arbeitet. Es war ein Laptop (angeblich ein MacBook), aber das Logo mit dem angebissenen Apfel war nirgends zu sehen.
Mit iPhone-Memoji können Sie Nachrichten und FaceTime-Gesprächen durch Ihre Mimik eine persönliche Note verleihen.
Die Bildschirmaufzeichnung ist eine äußerst nützliche Funktion, aber nicht alle Betriebssysteme verfügen über diese integrierte Funktion.
Es gibt viele Möglichkeiten, Spins in Coin Master zu verdienen. Man muss sich vor allem anstrengen, um eine Spin-Serie zu erhalten. Quantrimang.com hat Möglichkeiten zusammengestellt, die Ihnen helfen, eine Reihe von Coin Master-Spins zu erhalten.
Das Hinzufügen einer Checkliste zu Google Docs ist ein notwendiger Schritt, wenn wir eine Untersuchung oder Umfrage zu bestimmten Inhalten durchführen.
Woraus werden amerikanische Häuser gebaut? Die Antwort ist Holz. Warum werden amerikanische Häuser nicht aus Zement, sondern aus Holz gebaut? Finden wir es gemeinsam heraus!
Was erwartet uns im Jahr 2025 in der Welt des Weltraums und der Astronomie? Entdecken Sie die unvergesslichen Astronomie-Momente dieses Jahres!
Code Strinova gibt Ihnen Geschenke, die auf Ihrer Reise, das Licht wiederzufinden, unverzichtbare Lebensretter sind.
Der vollständige Code zur Arbeitslosigkeitskultivierung unten bringt Ihnen eine Reihe von Belohnungen.
Dies ist ein automatischer Einkommensteuerrechner. Geben Sie einfach Ihr Einkommen, Ihr Versicherungsgehalt und die Anzahl Ihrer Angehörigen ein, um Ihre Einkommensteuer zu berechnen. Wenn Sie wissen möchten, wie Sie die Einkommensteuer im Detail selbst berechnen können, lesen Sie bitte weiter unten.
Das Erstellen eines automatischen Inhaltsverzeichnisses in Word spart Zeit und erhöht den Komfort bei der Arbeit mit diesem Texteditor. Nachfolgend finden Sie eine detaillierte Anleitung zum Erstellen eines automatischen Word-Inhaltsverzeichnisses. Bitte folgen Sie den Anweisungen.
Der Wechsel zu VPNs hat die Online-Privatsphäre vieler Menschen völlig verändert, aber es gibt ein paar Dinge, die Sie wissen sollten, bevor Sie anfangen, sie zu verwenden.
