Microsoft kündigt neues Tool zur Erkennung und Korrektur halluzinogener Inhalte in KI-Ausgaben an

Azure AI Content Safety ist der KI-Dienst von Microsoft, der schädliche, KI-generierte Inhalte in Apps, Diensten und Plattformen erkennt. Er bietet sowohl Text- als auch Bild-APIs, sodass Entwickler unerwünschte Inhalte identifizieren können.

Die Groundedness-API in Azure AI Content Safety kann erkennen, ob die Antwort eines umfangreichen Sprachmodells auf einem vom Benutzer ausgewählten Quelldokument basiert. Da aktuelle umfangreiche Sprachmodelle ungenaue oder unechte Informationen (illusorische Informationen) generieren können, unterstützt diese API Entwickler bei der Identifizierung solcher Inhalte in der KI-Ausgabe.

Microsoft kündigt neues Tool zur Erkennung und Korrektur halluzinogener Inhalte in KI-Ausgaben an

Microsoft hat heute eine Vorschau seiner Fehlerkorrekturfunktionen angekündigt. Diese ermöglichen es Entwicklern, „wahnhafte“ Inhalte in KI-Ausgaben in Echtzeit zu erkennen und zu korrigieren. So wird sichergestellt, dass Endnutzer stets sachlich korrekte, KI-generierte Inhalte erhalten. So funktioniert es:

  • Der App-Entwickler aktiviert Bearbeitungsfunktionen.
  • Wenn unbegründete Daten erkannt werden, wird eine neue Anfrage an das KI-Modell gesendet, um den Fehler zu korrigieren.
  • Der LLM-Algorithmus ermittelt die Gesamtpunktzahl auf Grundlage maßgeblicher Dokumente.
  • Sätze, die für das zugrunde liegende, beglaubigte Dokument nicht relevant sind, können vollständig herausgefiltert werden.
  • Wenn der Inhalt aus einem Basisdokument stammt, schreibt das Basismodell den unbegründeten Satz so um, dass er mit dem Dokument übereinstimmt.

Zusätzlich zur Bearbeitungsfunktion hat Microsoft auch eine öffentliche Vorschau von Hybrid Azure AI Content Safety (AACS) angekündigt. Diese Funktion ermöglicht Entwicklern die Bereitstellung von Inhaltssicherheitsmechanismen in der Cloud und auf dem Gerät. Das eingebettete AACS SDK ermöglicht Echtzeit-Überprüfungen der Inhaltssicherheit direkt auf dem Gerät, auch ohne Internetverbindung.

Microsoft hat außerdem eine Vorschau der Funktion „Protected Materials Detection for Code“ angekündigt. Diese Funktion kann mit codegenerierenden KI-Anwendungen verwendet werden, um zu erkennen, ob LLM geschützten Code generiert. Diese Funktion war bisher nur über den Azure OpenAI-Dienst verfügbar. Microsoft stellt die Funktion nun auch Kunden zur Verfügung, die sie in Verbindung mit anderen codegenerierenden KI-Modellen verwenden können.

Sign up and earn $1000 a day ⋙

Leave a Comment

So installieren Sie Paint 3D unter Windows 10 und 11

So installieren Sie Paint 3D unter Windows 10 und 11

Paint 3D ist nicht mehr im Microsoft Store verfügbar, aber das bedeutet nicht, dass Sie keine weitere Chance haben, es auszuprobieren.

Microsoft fügt der kostenlosen Version von Copilot GPT-4 Turbo LLM hinzu

Microsoft fügt der kostenlosen Version von Copilot GPT-4 Turbo LLM hinzu

Im Jahr 2023 setzte Microsoft stark auf künstliche Intelligenz und seine Partnerschaft mit OpenAI, um Copilot Wirklichkeit werden zu lassen.

Hier ist alles, was Microsoft über Ihren PC weiß!

Hier ist alles, was Microsoft über Ihren PC weiß!

Es gibt viele Gründe, warum Microsoft Ihre Daten sammelt: Von der Optimierung des Benutzererlebnisses über die individuelle Anpassung bis hin zum Verkauf an Dritte.

Windows 11 22H2: Moment 1-Update mit vielen bemerkenswerten Funktionen

Windows 11 22H2: Moment 1-Update mit vielen bemerkenswerten Funktionen

Nach langem Warten wurde das erste große Update von Windows 11 offiziell veröffentlicht.

So entfernen Sie die Option „Mit Paint bearbeiten“ in Windows 11

So entfernen Sie die Option „Mit Paint bearbeiten“ in Windows 11

Tatsächlich ist der Vorgang derselbe wie das Entfernen der Optionen „Mit Notepad bearbeiten“ oder „Mit Fotos bearbeiten“.

Microsoft investiert im Geschäftsjahr 2025 80 Milliarden US-Dollar in KI

Microsoft investiert im Geschäftsjahr 2025 80 Milliarden US-Dollar in KI

Künstliche Intelligenz (KI) ist heute ein heißes Thema in der Technologiewelt. Bei jedem Diskussionsthema steht KI im Mittelpunkt, ist das Hauptthema der Diskussion und sogar der Kontroverse.

Microsoft „plant“ Copilot, Edge und Bing in eine neue Microsoft AI-Abteilung und verspricht starke Investitionen

Microsoft „plant“ Copilot, Edge und Bing in eine neue Microsoft AI-Abteilung und verspricht starke Investitionen

Das Jahr 2023 hat gezeigt, dass Microsoft stark auf künstliche Intelligenz setzt und sie sogar als eine der Säulen von entscheidender Bedeutung für die zukünftige Entwicklung des Unternehmens betrachtet.

7 Microsoft AI Copilot: Welchen sollten Sie verwenden?

7 Microsoft AI Copilot: Welchen sollten Sie verwenden?

Microsoft hat eine ganze Reihe von AI Copilot-Produkten auf den Markt gebracht, um die Art und Weise zu revolutionieren, wie wir mit seinem Software-Ökosystem interagieren, einschließlich Produktivität, Sicherheit, Verschlüsselung und mehr.

So verbergen Sie vertrauliche Inhalte in Bildern unter Windows 11

So verbergen Sie vertrauliche Inhalte in Bildern unter Windows 11

Wenn Ihre Fotos vertrauliche Inhalte enthalten, die andere nicht sehen sollen, können Sie diese mit den Ihnen zur Verfügung stehenden Tools verbergen. Sie können dazu die integrierten Tools Ihres Windows 11-PCs verwenden.

Microsoft integriert möglicherweise Copilot in den Datei-Explorer in Windows 11

Microsoft integriert möglicherweise Copilot in den Datei-Explorer in Windows 11

Microsoft setzt stark auf künstliche Intelligenz und eine Partnerschaft mit OpenAI, um Copilot Wirklichkeit werden zu lassen.

Microsoft wird es Benutzern ermöglichen, ihre eigene Version des Copilot-Chatbots zu erstellen, ähnlich wie GPT

Microsoft wird es Benutzern ermöglichen, ihre eigene Version des Copilot-Chatbots zu erstellen, ähnlich wie GPT

Mit der Funktion „Copilot GPT“ können Benutzer „das Verhalten von Copiloten auf ein Thema anpassen, das sie besonders interessiert“.

Microsoft steigt in die KI-basierte Pharmaforschung ein

Microsoft steigt in die KI-basierte Pharmaforschung ein

Der explosive Entwicklungstrend der Technologie der künstlichen Intelligenz (KI) hat einen immer deutlicheren Einfluss auf viele verschiedene Aspekte des Lebens.

Microsoft bestätigt, dass die Windows Copilot-Anwendung völlig harmlos ist und keine Benutzerdaten stiehlt

Microsoft bestätigt, dass die Windows Copilot-Anwendung völlig harmlos ist und keine Benutzerdaten stiehlt

Auch Microsofts Eifer, Copilot auf den Markt zu bringen, hat das Unternehmen in Schwierigkeiten gebracht.

So aktivieren Sie Ultimate Performance zur Leistungsoptimierung unter Windows 10/11

So aktivieren Sie Ultimate Performance zur Leistungsoptimierung unter Windows 10/11

Microsoft hat dem Windows 10 Update April 2018 eine Funktion namens Ultimate Performance hinzugefügt. Dies kann man grob als eine Funktion verstehen, die dem System hilft, in den Hochleistungs-Arbeitsmodus zu wechseln.

Analyse eines Angriffs (Teil 3)

Analyse eines Angriffs (Teil 3)

In Teil 2 dieser Serie haben wir alle notwendigen Informationen hinterlassen, die für einen Angriff auf das Netzwerk des Opfers erforderlich sind.

6 Gründe, warum OCCT das beliebteste Tool für Stresstests von CPUs und GPUs ist

6 Gründe, warum OCCT das beliebteste Tool für Stresstests von CPUs und GPUs ist

Es gibt viele Stresstest-Apps, aber eine Option sticht besonders hervor: OCCT (OverClock Checking Tool). Hier ist der Grund…

So erhalten Sie wieder Zugriff auf die Festplatte und beheben den Fehler, dass die Festplatte nicht geöffnet werden kann

So erhalten Sie wieder Zugriff auf die Festplatte und beheben den Fehler, dass die Festplatte nicht geöffnet werden kann

In diesem Artikel zeigen wir Ihnen, wie Sie nach einem Festplattenausfall wieder auf Ihre Festplatte zugreifen können. Folgen Sie uns!

Was ist eine Quadratzahl? Wie man sie erkennt und ausführliche Beispiele

Was ist eine Quadratzahl? Wie man sie erkennt und ausführliche Beispiele

Eine Quadratzahl ist eine Zahl, die das exakte Quadrat einer ganzen Zahl ist. Oder einfach ausgedrückt: Eine Quadratzahl ist eine natürliche Zahl, deren Quadratwurzel ebenfalls eine natürliche Zahl ist.

Yong Heroes 2: Storm of Resurrection Code-Sammlung

Yong Heroes 2: Storm of Resurrection Code-Sammlung

Entdecke die Geschenkcode-Serie von Yong Heroes 2: Phong Van Tai Khoi mit Quantrimang und erhalte eine Reihe wertvoller In-Game-Gegenstände

Neuester vergessener Code für MoonNight Oni Slayer und wie man den Code gegen Belohnungen einlöst

Neuester vergessener Code für MoonNight Oni Slayer und wie man den Code gegen Belohnungen einlöst

MoonNight Oni Slayer versorgt Sie und viele andere Spieler mit Goldmünzen, Edelsteinen, Charakter-Rekrutierungsbriefen, allgemeiner EXP …

O1-pro ist OpenAIs bislang teuerstes KI-Modell

O1-pro ist OpenAIs bislang teuerstes KI-Modell

OpenAI hat in seiner Entwickler-API eine leistungsfähigere Version seines O1-Argumentations-KI-Modells, o1-pro, veröffentlicht.

7 Möglichkeiten, wie die Bildimportfunktion von ChatGPT Ihnen hilft, alltägliche Probleme zu lösen

7 Möglichkeiten, wie die Bildimportfunktion von ChatGPT Ihnen hilft, alltägliche Probleme zu lösen

Wussten Sie, dass ChatGPT Bilder sehen kann? Mithilfe der Bildimportfunktion kann es Bilder analysieren und Ihnen helfen, tägliche Herausforderungen nahtlos zu meistern.

Schlüsselwörter in Go

Schlüsselwörter in Go

Schlüsselwörter – Schlüsselwörter sind Wörter in einer Sprache, die für interne Prozesse verwendet werden oder vordefinierte Aktionen darstellen. Hier erfahren Sie, was Sie über Schlüsselwörter in Golang wissen müssen.

Datentypen in Golang

Datentypen in Golang

Datentypen geben an, welche Art von Daten eine gültige Go-Variable enthalten kann. In der Sprache Go werden Typen in vier Kategorien unterteilt:

11 Möglichkeiten zum Öffnen des Papierkorbs unter Windows

11 Möglichkeiten zum Öffnen des Papierkorbs unter Windows

Diese Anleitung hilft Ihnen bei der Beantwortung der Frage „Wo befindet sich der Papierkorb in Windows 10?“ und zeigt Ihnen, wie Sie am bequemsten zum Speicherort des Papierkorbs in Windows 10 gelangen:

8 Möglichkeiten zur Behebung des Fehlers „Ihr PC wurde nicht richtig gestartet“

8 Möglichkeiten zur Behebung des Fehlers „Ihr PC wurde nicht richtig gestartet“

Möglicherweise wird direkt nach dem Booten von Windows die Fehlermeldung „Ihr PC wurde nicht ordnungsgemäß gestartet“ angezeigt. Dieser Fehler ist zwar kein ernstes Problem, Sie sollten jedoch aufmerksam sein, wenn er wiederholt auftritt.

7 Möglichkeiten, den Fehler zu beheben, dass das BIOS-Menü nicht aufgerufen werden kann

7 Möglichkeiten, den Fehler zu beheben, dass das BIOS-Menü nicht aufgerufen werden kann

Viele Faktoren können dazu führen, dass auf das BIOS (oder UEFI) nicht mehr zugegriffen werden kann, vom Einfrieren des Systems bis hin zum Ausbleiben einer Eingabeaufforderung.

So finden Sie Videoquellen im Web

So finden Sie Videoquellen im Web

Haben Sie kürzlich einen zufälligen Clip gesehen und wollten dann das gesamte Video suchen und ansehen? Oder haben Sie eine Eilmeldung über einen Vorfall in einem Video gehört und wollten dessen Fakten überprüfen?

Zusammenfassung der besten Fotoanzeigesoftware auf dem PC

Zusammenfassung der besten Fotoanzeigesoftware auf dem PC

Heutzutage gibt es auf Computern viele Programme zum Lesen von Fotos, die mit zahlreichen Funktionen die Anzeige verschiedener Rich-Image-Formate unterstützen, wie etwa die Anzeige von HEIC-Bildern unter Windows oder die Anzeige von RAW-Bildern auf Computern ...