Demonstrator
Über den Demonstrator
Dieser modularisierte Demonstrator bietet ein Framework für die flexible, lokale Ausführung von Sprachmodellen zum Aufzeigen verschiedener Anwendungen. Dabei sind zwei Hauptanwendungen implementiert:
- Sprachmodelle werden durch Anweisungen dazu befähigt, unterschiedliche Rollen einzunehmen. Im Unternehmenskontext könnte dies beispielsweise ein Berater auf Unternehmenswebseiten sein. Dabei muss sichergestellt sein, dass das Sprachmodell nur zu bestimmten Themen Fragen beantwortet und keine Schimpfwörter nutzt. Dieses Konzept nennt man Guardrailing.
An diesem Demonstrator kann interaktiv getestet werden, welche Maßnahmen zur Valdierung von Benutzereingaben möglich sind und wie diese die Ausgabe von Sprachmodellen beeinflussen. - Sprachmodelle können flexible Benutzereingaben in strukturierte Formate überführen und kontextuell anreichern.
Als Anwendung dieser Fähigkeit wurde eine Chatsteuerung für einen Roboterarm über eine standardisierte OPC-UA-Schnittstelle entwickelt.
Daten und Einordnung
Fakten
- Formular
- Mobil
- Branchen
- Information und Kommunikation
- Schlagwörter
- KI Guardrailing IT-Sicherheit LLM OPC UA
- KI-Bezug
- KI-Demonstrator
- Ausleihbar
- Nein
Material und Links
Ressourcen
Vor Ort
Standort
Otto-Berndt-Straße 2, 64287 Darmstadt
Detailbeschreibung
Dieser modularisierte Demonstrator bietet ein Framework für die flexible, lokale Ausführung von Sprachmodellen zum Aufzeigen verschiedener Anwendungen. Dabei sind zwei Hauptanwendungen implementiert:
- Sprachmodelle werden durch Anweisungen dazu befähigt, unterschiedliche Rollen einzunehmen. Im Unternehmenskontext könnte dies beispielsweise ein Berater auf Unternehmenswebseiten sein. Dabei muss sichergestellt sein, dass das Sprachmodell nur zu bestimmten Themen Fragen beantwortet und keine Schimpfwörter nutzt. Dieses Konzept nennt man Guardrailing.
An diesem Demonstrator kann interaktiv getestet werden, welche Maßnahmen zur Valdierung von Benutzereingaben möglich sind und wie diese die Ausgabe von Sprachmodellen beeinflussen. - Sprachmodelle können flexible Benutzereingaben in strukturierte Formate überführen und kontextuell anreichern.
Als Anwendung dieser Fähigkeit wurde eine Chatsteuerung für einen Roboterarm über eine standardisierte OPC-UA-Schnittstelle entwickelt.
