Maken we gebruik van externe AI-aanbieders? Hoe verwerken ze de gegevens?
De AI Sensemaking functionaliteit maakt gebruik van 2 externe aanbieders voor AI-doeleinden.
Microsoft Azure (OpenAI)
De Microsoft Azure API's worden gebruikt voor het samenvatten, het stellen van vragen en enkele auto tagging functies binnen sensemaking. Deze functies maken gebruik van de GPT-4-Turbo Large Language Model (LLM's) API's.
De voorwaarden van Microsoft specificeren onder andere dat
Ze alleen gegevens verwerken voor het leveren en ondersteunen van de service
Microsoft de OpenAI-modellen host in de Azure-omgeving van Microsoft en de service GEEN interactie heeft met services die door OpenAI worden beheerd (bijv. ChatGPT of de OpenAI API).
Microsoft de gegevens verwerkt in de regio die door de klant is opgegeven. In ons geval is dit in een van onze 4 regio's (Europa, VK, VS en Canada)
Ze alleen toegang hebben tot gegevens om misbruik te monitoren
Meer informatie over gegevensprivacy in Microsoft Azure's omgeving is hier te vinden.
NLPCloud
De NLPCloud API's worden gebruikt om sommige auto-tagging functies binnen sensemaking aan te sturen.
NLPCloud is een bedrijf gevestigd in Frankrijk. NLP Cloud is HIPAA / GDPR / CCPA compliant en werkt aan een SOC 2 certificering.
NLPCloud verplicht zich ertoe
Geen gegevens op te slaan die naar hun API worden gestuurd
Geen informatie te verkopen of verhuren aan marketeers of derden
Strikte administratieve, technische en fysieke procedures te onderhouden om informatie die is opgeslagen op hun servers te beschermen
Welke gegevens worden naar deze subverwerkers gestuurd en bevat dit PII?
Beide subverwerkers ontvangen alleen tekstuele gegevens die CitizenLab eindgebruikers (bewoners) schreven in hun bijdrage (idee of antwoord op een enquête) aan een project op het platform. Dit gebeurt wanneer een beheerder de pagina met enquêteresultaten bezoekt (in het geval van enquêtes), of er actief voor kiest om een AI-analyse te starten (in het geval van ideeënverzameling).
We sturen geen informatie over de gebruiker (e-mail, gebruikersnaam, foto, demografische informatie, …) naar deze subverwerkers en sturen dus niet structureel PII. Soms kan het voorkomen dat gebruikers PII vermelden in hun bijdrage, waardoor deze gegevens naar de subverwerkers worden gestuurd.
Gebruiken deze subverwerkers de gegevens om hun modellen te trainen en te verbeteren?
Nee, beide subverwerkers verklaren expliciet dat ze de gegevens niet voor dergelijke doeleinden gebruiken.
Waar verwerkt Microsoft de gegevens?
Microsoft stelt ons in staat om de regio van verwerking op te geven. We maken momenteel gebruik van 4 regio's, waarbij onze klanten de regio gebruiken die het dichtst bij hen in de buurt ligt. De regio's zijn:
Europa (Frankrijk)
UK
US
Canada
Waarom zijn de antwoorden van AI niet in mijn taal?
Onze AI-tool probeert zoveel mogelijk te antwoorden in de taal van de bijdragen die het ontvangt. Uitzonderlijk, in gevallen waar er gemengde talen zijn, er heel weinig bijdragen zijn, of wanneer de AI het fout heeft, kan het antwoorden genereren in de verkeerde taal. In zulke gevallen is het meestal voldoende om het opnieuw te proberen.
Hoe nauwkeurig zijn de gegenereerde samenvattingen?
Samenvatten betekent inherent het weggooien van informatie, terwijl je probeert de meest voorkomende en belangrijkste elementen te behouden. De huidige technologie is goed in het interpreteren van algemene elementen, maar om te bepalen wat het belangrijkst is, is context en domeinkennis nodig en dat is enigszins subjectief.
Om correcte conclusies te trekken, is het cruciaal om er een mens bij betrokken te hebben en maximale transparantie te bieden over hoe de AI zijn conclusies trekt.
Onze AI-analyse is vanaf de basis ontwikkeld om je op een verantwoorde manier gebruik te laten maken van AI en maximale transparantie en controle te bieden aan de mens, terwijl de machine aan zijn zijde staat voor zeer efficiënte assistentie. Daarvoor hebben we verschillende mechanismen ingebouwd:
Voor en na het genereren van een AI-samenvatting is er een indicatie van de verwachte nauwkeurigheid, uitgedrukt als percentage
De samenvatting bevat in-line verwijzingen naar bijdragen van inwoners waarop de conclusies zijn gebaseerd, die met één klik kunnen worden geopend. Te allen tijde zijn alle bijdragen die aan het project zijn toegevoegd gemakkelijk doorzoekbaar en leesbaar, waardoor de gebruiker voortdurend wordt blootgesteld aan de ruwe, directe bijdragen voor controle en interpretatie
Met de tagging functionaliteit kun je de ontvangen bijdragen eenvoudig segmenteren in kleinere groepen, zodat je elke groep afzonderlijk kunt samenvatten. Dit maakt het makkelijker om het overzicht te bewaren en verhoogt de nauwkeurigheid van de samenvattingen.
Automatisch taggen helpt je om efficiënter te taggen. Je kunt kiezen uit verschillende taggingmethoden, die meer of minder controle bieden. De gebruiker kan te allen tijde de tags overrulen of beslissen om de tagging handmatig uit te voeren voor maximale controle.
Onze software is source-available en de broncode is te vinden op Github. Dit zorgt uiteindelijk voor het diepste begrip van hoe de tool zich gedraagt en hoe het zijn conclusies trekt.
Samenvattend: hoewel de nauwkeurigheid van de huidige geavanceerde LLM's zeer indrukwekkend is, bestaat er niet zoiets als 100% nauwkeurigheid. We hebben gekozen voor een interface waarin de mens centraal staat, waarbij de machine je helpt terwijl jij maximale transparantie en controle behoudt.
Welke talen zal de AI Sensemaking tool aanbieden / ondersteunen?
Al onze kerntalen (met uitzondering van Groenlands)