Microsoft kündigt neues Tool zur Erkennung und Korrektur halluzinogener Inhalte in KI-Ausgaben an

Azure AI Content Safety ist der KI-Dienst von Microsoft, der schädliche, KI-generierte Inhalte in Apps, Diensten und Plattformen erkennt. Er bietet sowohl Text- als auch Bild-APIs, sodass Entwickler unerwünschte Inhalte identifizieren können.

Die Groundedness-API in Azure AI Content Safety kann erkennen, ob die Antwort eines umfangreichen Sprachmodells auf einem vom Benutzer ausgewählten Quelldokument basiert. Da aktuelle umfangreiche Sprachmodelle ungenaue oder unechte Informationen (illusorische Informationen) generieren können, unterstützt diese API Entwickler bei der Identifizierung solcher Inhalte in der KI-Ausgabe.

Microsoft kündigt neues Tool zur Erkennung und Korrektur halluzinogener Inhalte in KI-Ausgaben an

Microsoft hat heute eine Vorschau seiner Fehlerkorrekturfunktionen angekündigt. Diese ermöglichen es Entwicklern, „wahnhafte“ Inhalte in KI-Ausgaben in Echtzeit zu erkennen und zu korrigieren. So wird sichergestellt, dass Endnutzer stets sachlich korrekte, KI-generierte Inhalte erhalten. So funktioniert es:

  • Der App-Entwickler aktiviert Bearbeitungsfunktionen.
  • Wenn unbegründete Daten erkannt werden, wird eine neue Anfrage an das KI-Modell gesendet, um den Fehler zu korrigieren.
  • Der LLM-Algorithmus ermittelt die Gesamtpunktzahl auf Grundlage maßgeblicher Dokumente.
  • Sätze, die für das zugrunde liegende, beglaubigte Dokument nicht relevant sind, können vollständig herausgefiltert werden.
  • Wenn der Inhalt aus einem Basisdokument stammt, schreibt das Basismodell den unbegründeten Satz so um, dass er mit dem Dokument übereinstimmt.

Zusätzlich zur Bearbeitungsfunktion hat Microsoft auch eine öffentliche Vorschau von Hybrid Azure AI Content Safety (AACS) angekündigt. Diese Funktion ermöglicht Entwicklern die Bereitstellung von Inhaltssicherheitsmechanismen in der Cloud und auf dem Gerät. Das eingebettete AACS SDK ermöglicht Echtzeit-Überprüfungen der Inhaltssicherheit direkt auf dem Gerät, auch ohne Internetverbindung.

Microsoft hat außerdem eine Vorschau der Funktion „Protected Materials Detection for Code“ angekündigt. Diese Funktion kann mit codegenerierenden KI-Anwendungen verwendet werden, um zu erkennen, ob LLM geschützten Code generiert. Diese Funktion war bisher nur über den Azure OpenAI-Dienst verfügbar. Microsoft stellt die Funktion nun auch Kunden zur Verfügung, die sie in Verbindung mit anderen codegenerierenden KI-Modellen verwenden können.

Einen Kommentar hinterlassen

Veranstalte einen nostalgischen 80er-Jahre-Slasher-Filmabend mit diesen Ideen

Veranstalte einen nostalgischen 80er-Jahre-Slasher-Filmabend mit diesen Ideen

Planen Sie eine Slasher-Party im Stil der 80er Jahre mit einem klar definierten Gruselgrad, Retro-Dekoration, Outfits im Stil der Ära, einfachen Snacks und unterhaltsamen Filmabendspielen.

Der Bösewicht-Trend: Die besten düsteren Kostüme für Halloween 2026

Der Bösewicht-Trend: Die besten düsteren Kostüme für Halloween 2026

Kreiere einen düsteren, eleganten Halloween-Look 2026 mit sechs von Bösewichten inspirierten Kostümideen, praktischen Styling-Tipps, Budget-Hinweisen und Sicherheitschecks.

Allergikerfreundliches Halloween: Das Teal Pumpkin Project im Jahr 2026

Allergikerfreundliches Halloween: Das Teal Pumpkin Project im Jahr 2026

Erfahren Sie, was das Teal Pumpkin Project im Jahr 2026 bedeutet, wie Gastgeber separate Nicht-Lebensmittel-Leckereien anbieten können und wie Familien Routen planen und Süßigkeiten sicher überprüfen können.

Süßes oder Saures im Jahr 2026: Was ändert sich an Halloween?

Süßes oder Saures im Jahr 2026: Was ändert sich an Halloween?

Erfahren Sie, was die neueste Halloween-Umfrage 2026 über das Süßes-oder-Saures-Spiel, Gemeinschaftsveranstaltungen und praktische Möglichkeiten zur Planung eines sichereren Ausflugs in der Nachbarschaft aussagt.

So veranstalten Sie eine Halloween-Mondparty unter dem Motto „Sternenlicht-Spiritualität“

So veranstalten Sie eine Halloween-Mondparty unter dem Motto „Sternenlicht-Spiritualität“

Planen Sie eine besinnliche Halloween-Mondparty mit optionaler Besinnung, einfacher Sternenbeobachtung, genauen Himmelsnotizen für 2026, respektvoller spiritueller Gestaltung und sicherer Beleuchtung.

Der ultimative Cottagecore-Hexen-Ästhetik-Leitfaden für Halloween

Der ultimative Cottagecore-Hexen-Ästhetik-Leitfaden für Halloween

Stelle ein bequemes Cottagecore-Hexenkostüm mit anfängerfreundlichen Lagen, Secondhand-Teilen, einfachem Make-up, praktischen Accessoires und Sicherheitschecks für Halloween zusammen.

Was sind die größten Halloween-Trends für 2026?

Was sind die größten Halloween-Trends für 2026?

Entdecken Sie die größten Halloween-Trends 2026 in den Bereichen Kostüme, Dekoration, Shopping, Haustiere und Partyplanung – mit Umfragedaten, Terminen und praktischen Tipps zur Auswahl.

So veranstalten Sie dieses Jahr eine budgetfreundliche Halloween-Party

So veranstalten Sie dieses Jahr eine budgetfreundliche Halloween-Party

Veranstalten Sie eine preiswerte Halloween-Party mit klarem Budgetlimit, selbstgemachter Dekoration, einfachem Essen, kostenlosen Spielen und praktischen Sicherheitstipps.

Plane einen Halloween-Spieleabend mit Tarot, Mahjong und mehr

Plane einen Halloween-Spieleabend mit Tarot, Mahjong und mehr

Wählen Sie Halloween-Partyspiele passend zur Gruppengröße, dem Erfahrungsstand und der Stimmung aus – mit einfachen Tipps, wie Sie Tarot und Mahjong für jeden Gast attraktiv gestalten können.

Die besten Halloween-Kostüme für Hunde: Der Haustier-Trendguide 2026

Die besten Halloween-Kostüme für Hunde: Der Haustier-Trendguide 2026

Vergleiche die Trends für Hunde-Halloweenkostüme 2026 nach Suchinteresse, Passform, Komfort und Bewegungsfreiheit – von Hotdog- und Hai-Looks bis hin zu einfachen Bandanas.