Forscher der Penn Engineering (USA) sollen in mehreren KI-gesteuerten Roboterplattformen bislang unbekannte Sicherheitslücken entdeckt haben.
„ Unsere Forschung zeigt, dass große Sprachmodelle (LLMs) derzeit im Allgemeinen nicht sicher genug sind, wenn sie in komplexe physische Hardware integriert werden “, sagte George Pappas, Professor für Elektro- und Systemtechnik bei der UPS Foundation, in einer Erklärung.
Pappas und sein Team entwickelten den Algorithmus RoboPAIR, den ersten Algorithmus, der LLM-gesteuerte Roboter knacken kann. Im Gegensatz zu bestehenden technischen Schnellfeuerangriffen auf Chatbots ist RoboPAIR speziell darauf ausgelegt, LLM-gesteuerte Roboter zu schädlichen physischen Aktionen zu veranlassen. Dazu gehört auch die humanoide Roboterplattform Atlas, die Boston Dynamics und das Toyota Research Institute (TRI) entwickeln.
RoboPAIR erreichte Berichten zufolge eine 100-prozentige Erfolgsquote beim Knacken dreier beliebter Roboterforschungsplattformen: des vierbeinigen Unitree Go2, des vierrädrigen Clearpath Robotics Jackal und des Dolphins LLM-Simulators für autonomes Fahren. Es dauerte nur wenige Tage, bis der Algorithmus vollen Zugriff auf diese Systeme erhielt und begann, Sicherheitsbarrieren zu umgehen. Sobald die Forscher die Kontrolle übernommen hatten, konnten sie die autonomen Roboterplattformen zu verschiedenen gefährlichen Aktionen anweisen, beispielsweise zum Durchfahren von Kreuzungen ohne anzuhalten.
„ Die Ergebnisse der ersten Bewertung zeigen, dass die Risiken geknackter LLMs über die Textgenerierung hinausgehen, da klar ist, dass geknackte Roboter in der realen Welt physischen Schaden anrichten können .“
Das Team von Penn Engineering arbeitet mit Plattformentwicklern zusammen, um ihre Systeme gegen weitere Eindringlinge abzusichern, weist jedoch darauf hin, dass diese Sicherheitsprobleme systembedingt sind und nur schwer vollständig behoben werden können.
„ Die Ergebnisse dieser Studie zeigen deutlich, dass die Einführung eines Sicherheitsansatzes entscheidend für die Freisetzung verantwortungsvoller Innovationen ist. Wir müssen die inhärenten Schwachstellen beheben, bevor wir KI-gesteuerte Roboter in der realen Welt einsetzen “, so das Team.
Ein sicherer Betrieb erfordert das Testen von KI-Systemen auf potenzielle Bedrohungen und Schwachstellen. Dies ist für den Schutz der KI-Systeme, die diese Schwachstellen verursachen, unerlässlich. Denn nur wenn Schwachstellen identifiziert werden, können Systeme getestet und sogar trainiert werden, um Risiken vorzubeugen.
Entdecken Sie die einfachste Methode, Ihr Microsoft Teams-Profilbild auf iPhone und Android zu ändern. Schritt-für-Schritt-Anleitung mit Screenshots für reibungslose Updates in der neuesten App-Version. Verbessern Sie noch heute Ihr professionelles Image!
Sind Sie es leid, dass die Microsoft Teams-Hilfe Ihren Arbeitsablauf blockiert? Hier finden Sie Schritt-für-Schritt-Lösungen, die auch mit den neuesten Versionen funktionieren. Cache leeren, aktualisieren und vieles mehr – ganz ohne technische Vorkenntnisse!
Sind Sie es leid, dass der Fehler „Microsoft Teams Web Client deaktiviert“ Ihre Meetings blockiert? Befolgen Sie unsere bewährten Schritt-für-Schritt-Anleitungen, um den Fehler schnell zu beheben – ganz ohne IT-Hilfe!
Entdecken Sie einfache Möglichkeiten, Microsoft Teams-Aufzeichnungen auf Ihren Laptop oder PC herunterzuladen. Erhalten Sie Schritt-für-Schritt-Anleitungen für die Desktop-App, das Web und OneDrive sowie Tipps zur Fehlerbehebung, damit Ihre Meetings reibungslos ablaufen. Ideal für Windows- und Mac-Nutzer!
Sind Sie es leid, dass der Microsoft Teams-Fehlercode 404 Ihre Meetings blockiert? Folgen Sie unserer bewährten Schritt-für-Schritt-Anleitung, um den Cache zu leeren, Browserprobleme zu beheben und den Fehler „Nicht gefunden“ schnell zu lösen – für eine reibungslose Zusammenarbeit. Aktualisiert mit den neuesten Fehlerbehebungen!
Probleme beim Beitritt zu Microsoft Teams-Besprechungen? Hier finden Sie bewährte Lösungen über direkte Links. Schnelle Hilfe für reibungsloses Beitreten – ganz ohne technische Vorkenntnisse!
Sie finden Ihre Microsoft Teams-ID oder Ihre Kontodaten nicht? Diese Schritt-für-Schritt-Anleitung zeigt Ihnen genau, wo Sie Ihre Microsoft Teams-ID und Ihre Kontoinformationen auf Desktop-Computern, im Web, auf Mobilgeräten und mehr finden, um eine reibungslose Zusammenarbeit zu gewährleisten.
Haben Sie Probleme mit der Microsoft Teams-Anmeldung auf Chromebooks? Hier finden Sie Schritt-für-Schritt-Lösungen, um Anmeldeprobleme schnell zu beheben. Leeren Sie den Cache, aktualisieren Sie Apps und vieles mehr für reibungsloses Teamwork. Funktioniert mit dem neuesten Chrome OS!
Haben Sie Probleme mit dem Microsoft Teams-Proxy-Fehler? Entdecken Sie bewährte Schritte zur Fehlerbehebung bei den Microsoft Teams-Proxy-Einstellungen. Leeren Sie den Cache, passen Sie die Proxy-Einstellungen an und führen Sie mit unserer Expertenanleitung innerhalb weniger Minuten wieder reibungslose Anrufe durch.
Sie finden Ihre Microsoft Teams-Aufzeichnung nicht? Erfahren Sie, wo Teams Besprechungsdateien in OneDrive oder SharePoint speichert und wie Sie diese schnell finden und sofort darauf zugreifen können. Nie wieder verlorene Aufzeichnungen!
