Microsoft kündigt neues Tool zur Erkennung und Korrektur halluzinogener Inhalte in KI-Ausgaben an

Azure AI Content Safety ist der KI-Dienst von Microsoft, der schädliche, KI-generierte Inhalte in Apps, Diensten und Plattformen erkennt. Er bietet sowohl Text- als auch Bild-APIs, sodass Entwickler unerwünschte Inhalte identifizieren können.

Die Groundedness-API in Azure AI Content Safety kann erkennen, ob die Antwort eines umfangreichen Sprachmodells auf einem vom Benutzer ausgewählten Quelldokument basiert. Da aktuelle umfangreiche Sprachmodelle ungenaue oder unechte Informationen (illusorische Informationen) generieren können, unterstützt diese API Entwickler bei der Identifizierung solcher Inhalte in der KI-Ausgabe.

Microsoft kündigt neues Tool zur Erkennung und Korrektur halluzinogener Inhalte in KI-Ausgaben an

Microsoft hat heute eine Vorschau seiner Fehlerkorrekturfunktionen angekündigt. Diese ermöglichen es Entwicklern, „wahnhafte“ Inhalte in KI-Ausgaben in Echtzeit zu erkennen und zu korrigieren. So wird sichergestellt, dass Endnutzer stets sachlich korrekte, KI-generierte Inhalte erhalten. So funktioniert es:

  • Der App-Entwickler aktiviert Bearbeitungsfunktionen.
  • Wenn unbegründete Daten erkannt werden, wird eine neue Anfrage an das KI-Modell gesendet, um den Fehler zu korrigieren.
  • Der LLM-Algorithmus ermittelt die Gesamtpunktzahl auf Grundlage maßgeblicher Dokumente.
  • Sätze, die für das zugrunde liegende, beglaubigte Dokument nicht relevant sind, können vollständig herausgefiltert werden.
  • Wenn der Inhalt aus einem Basisdokument stammt, schreibt das Basismodell den unbegründeten Satz so um, dass er mit dem Dokument übereinstimmt.

Zusätzlich zur Bearbeitungsfunktion hat Microsoft auch eine öffentliche Vorschau von Hybrid Azure AI Content Safety (AACS) angekündigt. Diese Funktion ermöglicht Entwicklern die Bereitstellung von Inhaltssicherheitsmechanismen in der Cloud und auf dem Gerät. Das eingebettete AACS SDK ermöglicht Echtzeit-Überprüfungen der Inhaltssicherheit direkt auf dem Gerät, auch ohne Internetverbindung.

Microsoft hat außerdem eine Vorschau der Funktion „Protected Materials Detection for Code“ angekündigt. Diese Funktion kann mit codegenerierenden KI-Anwendungen verwendet werden, um zu erkennen, ob LLM geschützten Code generiert. Diese Funktion war bisher nur über den Azure OpenAI-Dienst verfügbar. Microsoft stellt die Funktion nun auch Kunden zur Verfügung, die sie in Verbindung mit anderen codegenerierenden KI-Modellen verwenden können.

Sign up and earn $1000 a day ⋙

Leave a Comment

Microsoft spammt Copilot-QR-Codes auf dem Sperrbildschirm von Windows 11, um Benutzer anzulocken

Microsoft spammt Copilot-QR-Codes auf dem Sperrbildschirm von Windows 11, um Benutzer anzulocken

Im Jahr 2023 setzte Microsoft stark auf künstliche Intelligenz und seine Partnerschaft mit OpenAI, um Copilot Wirklichkeit werden zu lassen.

Microsoft bringt neue Haftnotiz-App für Windows 11 auf den Markt

Microsoft bringt neue Haftnotiz-App für Windows 11 auf den Markt

Nachdem die Dinge jahrelang gleich geblieben waren, änderte das Sticky Note-Update Mitte 2024 alles.

So legen Sie den Windows-Fotobetrachter als Standard-Fotobetrachter unter Windows 11 fest

So legen Sie den Windows-Fotobetrachter als Standard-Fotobetrachter unter Windows 11 fest

Windows Photo Viewer wurde erstmals zusammen mit Windows XP veröffentlicht und hat sich schnell zu einem der am häufigsten verwendeten Tools unter Windows entwickelt.

So installieren Sie Paint 3D unter Windows 10 und 11

So installieren Sie Paint 3D unter Windows 10 und 11

Paint 3D ist nicht mehr im Microsoft Store verfügbar, aber das bedeutet nicht, dass Sie keine weitere Chance haben, es auszuprobieren.

Microsoft fügt der kostenlosen Version von Copilot GPT-4 Turbo LLM hinzu

Microsoft fügt der kostenlosen Version von Copilot GPT-4 Turbo LLM hinzu

Im Jahr 2023 setzte Microsoft stark auf künstliche Intelligenz und seine Partnerschaft mit OpenAI, um Copilot Wirklichkeit werden zu lassen.

Hier ist alles, was Microsoft über Ihren PC weiß!

Hier ist alles, was Microsoft über Ihren PC weiß!

Es gibt viele Gründe, warum Microsoft Ihre Daten sammelt: Von der Optimierung des Benutzererlebnisses über die individuelle Anpassung bis hin zum Verkauf an Dritte.

Windows 11 22H2: Moment 1-Update mit vielen bemerkenswerten Funktionen

Windows 11 22H2: Moment 1-Update mit vielen bemerkenswerten Funktionen

Nach langem Warten wurde das erste große Update von Windows 11 offiziell veröffentlicht.

So entfernen Sie die Option „Mit Paint bearbeiten“ in Windows 11

So entfernen Sie die Option „Mit Paint bearbeiten“ in Windows 11

Tatsächlich ist der Vorgang derselbe wie das Entfernen der Optionen „Mit Notepad bearbeiten“ oder „Mit Fotos bearbeiten“.

Microsoft investiert im Geschäftsjahr 2025 80 Milliarden US-Dollar in KI

Microsoft investiert im Geschäftsjahr 2025 80 Milliarden US-Dollar in KI

Künstliche Intelligenz (KI) ist heute ein heißes Thema in der Technologiewelt. Bei jedem Diskussionsthema steht KI im Mittelpunkt, ist das Hauptthema der Diskussion und sogar der Kontroverse.

Microsoft „plant“ Copilot, Edge und Bing in eine neue Microsoft AI-Abteilung und verspricht starke Investitionen

Microsoft „plant“ Copilot, Edge und Bing in eine neue Microsoft AI-Abteilung und verspricht starke Investitionen

Das Jahr 2023 hat gezeigt, dass Microsoft stark auf künstliche Intelligenz setzt und sie sogar als eine der Säulen von entscheidender Bedeutung für die zukünftige Entwicklung des Unternehmens betrachtet.

7 Microsoft AI Copilot: Welchen sollten Sie verwenden?

7 Microsoft AI Copilot: Welchen sollten Sie verwenden?

Microsoft hat eine ganze Reihe von AI Copilot-Produkten auf den Markt gebracht, um die Art und Weise zu revolutionieren, wie wir mit seinem Software-Ökosystem interagieren, einschließlich Produktivität, Sicherheit, Verschlüsselung und mehr.

So verbergen Sie vertrauliche Inhalte in Bildern unter Windows 11

So verbergen Sie vertrauliche Inhalte in Bildern unter Windows 11

Wenn Ihre Fotos vertrauliche Inhalte enthalten, die andere nicht sehen sollen, können Sie diese mit den Ihnen zur Verfügung stehenden Tools verbergen. Sie können dazu die integrierten Tools Ihres Windows 11-PCs verwenden.

Microsoft integriert möglicherweise Copilot in den Datei-Explorer in Windows 11

Microsoft integriert möglicherweise Copilot in den Datei-Explorer in Windows 11

Microsoft setzt stark auf künstliche Intelligenz und eine Partnerschaft mit OpenAI, um Copilot Wirklichkeit werden zu lassen.

Microsoft wird es Benutzern ermöglichen, ihre eigene Version des Copilot-Chatbots zu erstellen, ähnlich wie GPT

Microsoft wird es Benutzern ermöglichen, ihre eigene Version des Copilot-Chatbots zu erstellen, ähnlich wie GPT

Mit der Funktion „Copilot GPT“ können Benutzer „das Verhalten von Copiloten auf ein Thema anpassen, das sie besonders interessiert“.

2 Möglichkeiten zur Behebung von Netzwerküberlastungen, die das WLAN verlangsamen

2 Möglichkeiten zur Behebung von Netzwerküberlastungen, die das WLAN verlangsamen

WLAN-Netzwerke werden von vielen Faktoren beeinflusst, die über Router, Bandbreite und Störungen hinausgehen. Es gibt jedoch einige clevere Möglichkeiten, Ihr Netzwerk zu verbessern.

So führen Sie mit Tenorshare Reiboot ein Downgrade von iOS 17 auf iOS 16 ohne Datenverlust durch

So führen Sie mit Tenorshare Reiboot ein Downgrade von iOS 17 auf iOS 16 ohne Datenverlust durch

Wenn Sie auf Ihrem Telefon zur stabilen Version von iOS 16 zurückkehren möchten, finden Sie hier die grundlegende Anleitung zum Deinstallieren von iOS 17 und zum Downgrade von iOS 17 auf 16.

Was passiert mit dem Körper, wenn man täglich Joghurt isst?

Was passiert mit dem Körper, wenn man täglich Joghurt isst?

Joghurt ist ein tolles Lebensmittel. Ist es gesund, täglich Joghurt zu essen? Was passiert mit Ihrem Körper, wenn Sie täglich Joghurt essen? Finden wir es gemeinsam heraus!

Welche Reissorte ist am gesündesten?

Welche Reissorte ist am gesündesten?

In diesem Artikel werden die nahrhaftesten Reissorten besprochen und wie Sie den gesundheitlichen Nutzen der Reissorte Ihrer Wahl maximieren können.

So wachen Sie morgens pünktlich auf

So wachen Sie morgens pünktlich auf

Das Erstellen eines Schlafplans und einer Schlafenszeitroutine, das Ändern Ihres Weckers und die Anpassung Ihrer Ernährung sind einige der Maßnahmen, die Ihnen helfen können, besser zu schlafen und morgens pünktlich aufzuwachen.

Mieten Sie bitte! Vermieter-Sim-Tipps für Anfänger

Mieten Sie bitte! Vermieter-Sim-Tipps für Anfänger

Miete bitte! Landlord Sim ist ein Simulationsspiel für iOS und Android. Du spielst den Vermieter eines Apartmentkomplexes und vermietest eine Wohnung mit dem Ziel, die Innenausstattung deiner Wohnungen zu modernisieren und sie für die Vermietung vorzubereiten.

Neueste Badezimmer-Tower-Defense-Codes und wie man Codes eingibt

Neueste Badezimmer-Tower-Defense-Codes und wie man Codes eingibt

Hol dir Roblox-Spielcodes für Bathroom Tower Defense und löse sie gegen tolle Belohnungen ein. Damit kannst du Türme mit höherem Schaden verbessern oder freischalten.

Warum ChatGPT besser ist als DeepSeek

Warum ChatGPT besser ist als DeepSeek

In DeepSeek waren anfangs große Hoffnungen gesetzt. Der KI-Chatbot wurde als starker Konkurrent von ChatGPT vermarktet und versprach intelligente Konversationsfunktionen und -erlebnisse.

Lernen Sie Fireflies.ai kennen: Die kostenlose KI-Sekretärin, die Ihnen stundenlange Arbeit erspart

Lernen Sie Fireflies.ai kennen: Die kostenlose KI-Sekretärin, die Ihnen stundenlange Arbeit erspart

Beim Notieren anderer wichtiger Dinge übersieht man leicht wichtige Details. Und während des Chats Notizen zu machen, kann ablenkend sein. Fireflies.ai ist die Lösung.

Wie man Axolotl in Minecraft züchtet, Minecraft Salamander zähmt

Wie man Axolotl in Minecraft züchtet, Minecraft Salamander zähmt

Axolot Minecraft ist für Spieler ein großartiger Helfer bei Unterwasseroperationen, wenn sie wissen, wie man ihn benutzt.

A Quiet Place: The Road Ahead PC-Spielkonfiguration

A Quiet Place: The Road Ahead PC-Spielkonfiguration

Die Konfiguration von „A Quiet Place: The Road Aheads“ wird ziemlich hoch bewertet, Sie müssen also die Konfiguration berücksichtigen, bevor Sie sich zum Herunterladen entscheiden.

Die mysteriöse Kraft der Zahl 33 in der Numerologie

Die mysteriöse Kraft der Zahl 33 in der Numerologie

In der Numerologie gilt die Zahl 33 oft als kraftvolle und mystische Zahl. Hier erfahren Sie, was Sie über die Zahl 33 in der Numerologie wissen müssen.

Mikroplastik in Lebensmittelverpackungen kann das Herz schädigen und wie man dem vorbeugen kann

Mikroplastik in Lebensmittelverpackungen kann das Herz schädigen und wie man dem vorbeugen kann

Mikroplastik kann herzschädigend sein. Hier erfahren Sie alles Wissenswerte über diese schockierende Studie – und Expertentipps, wie Sie Ihre Gesundheit schützen können.

Was ist dunkle Energie?

Was ist dunkle Energie?

Dunkle Energie treibt die beschleunigte Expansion des Universums voran, doch ihre Natur bleibt ein völliges Rätsel. Hier erfahren Sie alles Wissenswerte über Dunkle Energie.

Gmail fügt blaues Häkchen hinzu, um „seriöse“ Absender zu überprüfen

Gmail fügt blaues Häkchen hinzu, um „seriöse“ Absender zu überprüfen

Mit der Entwicklung und Popularität von Social-Networking-Plattformen ist das blaue Häkchen seit langem zu einem der mächtigsten Zeichen in der Internetwelt geworden.