Naam
PZH-Assist
Korte omschrijving
PZH-Assist is een chatbot die geraadpleegd kan worden voor algemeen gebruik. Deze chatbot is niet getraind op interne data en heeft daar ook geen kennis van. Wel is het mogelijk om ad-hoc een document in te voegen in de chatbot en om daar vragen over te stellen. De chatbot is alleen beschikbaar voor medewerkers van provincie Zuid-Holland.
Organisatie
Provincie Zuid-Holland
Thema
- Organisatie en bedrijfsvoering
- Werk
Status
In ontwikkeling
Begindatum
04-2024
Einddatum
06-2024
Contactgegevens
Voor vragen en opmerkingen kan je terecht bij: digitaalzuidholland@pzh.nl Wil je bezwaar maken, dan kan je terecht bij de Juridische afdeling van dienst beheer organisatie.
Publicatiecategorie
Impactvolle algoritmes
Link naar bronregistratie
n.v.t.
Verantwoord gebruik
Doel en impact
PZH-Assist is ontwikkeld als veilig alternatief voor ChatGPT en soortgelijke chatbots. PZH-Assist is alleen beschikbaar voor ambtenaren van de provincie Zuid-Holland. PZH-Assist is bedoeld als assistent en heeft geen directe impact op bedrijven en burgers. PZH-assist heeft niet noodzakelijk een directe en grote impact op inwoners, omdat het voornamelijk intern wordt gebruikt. De gebruiker bepaalt echter zelf het specifieke doel waarvoor PZH-assist wordt ingezet.
Afwegingen
PZH-Assist mitigeert een aantal privacyrisico's die commerciële taalmodellen wel hebben. Zo worden de gesprekken en geuploade bestanden niet gebruikt om de taalmodellen te trainen. Verder monitort PZH-Assist niet het gebruik van de interface.
Menselijke tussenkomst
PZH-Assist wordt niet gebruikt voor geautomatiseerde besluitvorming. Medewerkers stellen vragen en krijgen antwoorden van de chatbot. Medewerkers zijn zelf verantwoordelijk voor het juiste gebruik van de antwoorden.
Risicobeheer
- Privacy: Gesprekken en bestanden worden gebruikt om taalmodellen te trainen. Dit risico is gemitigeerd doordat we een eigen omgeving gebruiken waar de gesprekken en bestanden in opgeslagen worden. De gebruikte taalmodellen draaien ook in onze eigen omgeving en leren niet van de gesprekken en bestanden.
- Monitoring van gebruik van de interface: Dit risico is gemitigeerd doordat we onze eigen interface hebben gebouwd. Deze eigen interface monitort niet het gebruik van de interface.
- Onttrekken van persoonsgegevens uit het onderliggende taalmodel: Door een proces van promptengineering hebben we geprobeerd om persoonsgegevens van derden uit het onderliggende taalmodel te krijgen. Uit dit proces bleek dat niet mogelijk en de onderliggende beveiligingsmaatregelen te werken.
Wettelijke basis
N.v.t.
Verwijzingen wettelijke basis
n.v.t.
Link naar verwerkingsregister
n.v.t.
Toelichting op impacttoetsen
Een DPIA is uitgevoerd. Een IAMA is in voorbereiding.
Werking
Gegevens
Deze chatbot is niet getraind op interne data en heeft daar ook geen kennis van. Wel is het mogelijk om ad-hoc een document in te voegen in de chatbot en om daar vragen over te stellen.
Verwijzingen gegevensbronnen
n.v.t.
Technische werking
PZH-Assist maakt gebruik van privé instantie van GPT3.5 (Azure OpenAI) om antwoorden op vragen te formuleren. Meer informatie over de werking van Azure OpenAI.
Leverancier
Microsoft (Azure OpenAI)
Link naar broncode
n.v.t.
Metadata
Taal: nld
Versie publicatiestandaard
1.0.0
Zoektermen
Generatieve AI, taalmodellen, ChatGPT, Mistral, Anthropic, Claude