Naam
PZH-Assist
Korte omschrijving
PZH-Assist is een chatbot die geraadpleegd kan worden voor algemeen gebruik. Deze chatbot is niet getraind op interne data en heeft daar ook geen kennis van. Wel is het mogelijk om ad-hoc een document in te voegen in de chatbot en om daar vragen over te stellen. De chatbot is alleen beschikbaar voor medewerkers van provincie Zuid-Holland.
Organisatie
Provincie Zuid-Holland
Thema
- Organisatie en bedrijfsvoering
- Werk
Status
Het experiment is afgerond. PZH-Assist blijft tot eind 2024 beschikbaar.
Begindatum
04-2024
Einddatum
12-2024
Contactgegevens
Voor vragen en opmerkingen kan je terecht bij: digitaalzuidholland@pzh.nl Wil je bezwaar maken, dan kan je terecht bij de Juridische afdeling van dienst beheer organisatie.
Publicatiecategorie
Impactvolle algoritmes
Link naar bronregistratie
n.v.t.
Verantwoord gebruik
Doel en impact
PZH-Assist is ontwikkeld als veilig alternatief voor ChatGPT en soortgelijke chatbots. PZH-Assist is alleen beschikbaar voor ambtenaren van de provincie Zuid-Holland. PZH-Assist is bedoeld als assistent en heeft geen directe impact op bedrijven en burgers. PZH-assist heeft niet noodzakelijk een directe en grote impact op inwoners, omdat het voornamelijk intern wordt gebruikt. De gebruiker bepaalt echter zelf het specifieke doel waarvoor PZH-assist wordt ingezet.
Afwegingen
PZH-Assist mitigeert een aantal privacyrisico's die commerciële taalmodellen wel hebben. Zo worden de gesprekken en geuploade bestanden niet gebruikt om de taalmodellen te trainen. Verder monitort PZH-Assist niet het gebruik van de interface.
Menselijke tussenkomst
PZH-Assist wordt niet gebruikt voor geautomatiseerde besluitvorming. Medewerkers stellen vragen en krijgen antwoorden van de chatbot. Medewerkers zijn zelf verantwoordelijk voor het juiste gebruik van de antwoorden.
Risicobeheer
- Privacy: Gesprekken en bestanden worden gebruikt om taalmodellen te trainen. Dit risico is gemitigeerd doordat we een eigen omgeving gebruiken waar de gesprekken en bestanden in opgeslagen worden. De gebruikte taalmodellen draaien ook in onze eigen omgeving en leren niet van de gesprekken en bestanden.
- Monitoring van gebruik van de interface: Dit risico is gemitigeerd doordat we onze eigen interface hebben gebouwd. Deze eigen interface monitort niet het gebruik van de interface.
- Onttrekken van persoonsgegevens uit het onderliggende taalmodel: Door een proces van promptengineering hebben we geprobeerd om persoonsgegevens van derden uit het onderliggende taalmodel te krijgen. Uit dit proces bleek dat niet mogelijk en de onderliggende beveiligingsmaatregelen te werken.
Wettelijke basis
N.v.t.
Verwijzingen wettelijke basis
n.v.t.
Link naar verwerkingsregister
n.v.t.
Toelichting op impacttoetsen
Een DPIA is uitgevoerd in samenwerking met de Eenheid Privacy. Deze DPIA en daarmee de verwerking is positief beoordeeld en geaccordeerd door de Functionaris Gegevensbescherming van Provincie Zuid-Holland. Er is onder voorbehoud toestemming gegeven tot juli 2025. Op dat moment zal een herbeoordeling plaatsvinden.
Werking
Gegevens
Deze chatbot is niet getraind op interne data en heeft daar ook geen kennis van. Wel is het mogelijk om ad-hoc een document in te voegen in de chatbot en om daar vragen over te stellen.
Verwijzingen gegevensbronnen
n.v.t.
Technische werking
PZH-Assist maakt gebruik van privé instantie van GPT4-O (Azure OpenAI) om antwoorden op vragen te formuleren. Meer informatie over de werking van Azure OpenAI.
Leverancier
Microsoft (Azure OpenAI)
Link naar broncode
n.v.t.
Metadata
Taal: nld
Versie publicatiestandaard
1.0.0
Zoektermen
Generatieve AI, taalmodellen, ChatGPT, Mistral, Anthropic, Claude