Insight ON IT-leiders balanceren tussen snelheid en vertrouwen

Om vertrouwen in AI op te bouwen in gereguleerde sectoren, moeten nauwkeurigheid, verantwoordingsplicht en het tegengaan van vooringenomenheid worden beschouwd als vaste werkwijzen en niet als eenmalige afvinklijstjes. Abhijeet Gulati deelt het raamwerk dat zijn team gebruikt om AI op verantwoorde wijze in te zetten zonder in te boeten aan snelheid

Het vertrouwen in AI binnen gereguleerde sectoren draait om één paradox. U heeft snelheid nodig om concurrerend te blijven, maar één onnauwkeurig resultaat kan het klantvertrouwen vernietigen dat u in jaren heeft opgebouwd. De oplossing is niet kiezen tussen beide. De oplossing is het bouwen van operationele systemen die beide tegelijkertijd mogelijk maken. Het kader dat werkt: snelheid hoort thuis in experimenten, maar productiegereedheid is een afzonderlijke beoordeling op basis van nauwkeurigheid, verantwoordelijkheid en vertrouwen.

Abhijeet Gulati, head of AI en senior director van engineering bij Mitchell (een onderneming van Enlyte), bouwt al negen jaar AI in voor het beheer van schadeclaims bij property and casualty-verzekeringen. Dit is een domein waarin een verkeerde schaderaming directe financiële gevolgen heeft voor mensen. De aanpak van zijn team draait om de snelheid-betrouwbaarheidsparadox. Dit is de spanning tussen de tijd tot de marktintroductie en de tijd tot het opbouwen van vertrouwen. De oplossing van Mitchell is een filosofie met een focus op governance. Hierbij verlopen experimenten snel, maar vereist de beslissing om een toepassing in productie te nemen een bewuste pauze. Zo beoordeelt het team of de AI het bronsysteem versterkt en niet in gevaar brengt.

Het operationeel maken van AI-vooringenomenheid staat centraal in deze aanpak. Vooringenomenheid is geen certificering die u eenmalig controleert. Het is een routine die bij elke iteratie draait, omdat alle historische data vooringenomenheid bevat. AI die op deze data is getraind, wordt een uitvergrotingsmotor van deze vooringenomenheid zonder actieve normalisatie. Het team van Mitchell ontwikkelt de evaluatiestrategie voor vooringenomenheid continu. Zij voegen nieuwe scenario's toe aan hun governancekaders zodra zij deze identificeren. De test is eenvoudig. Als u uw eigen AI niet vertrouwt, kunt u uw klanten er niet van overtuigen om het te gebruiken.

Human-in-the-loop-ontwerp is het andere cruciale onderdeel. AI moet het menselijk oordeel aanvullen en niet vervangen, vooral op punten van onzekerheid. Wanneer de AI er zeker van is dat een beslissing juist is, gaat het systeem door. Wanneer er sprake is van onzekerheid, geeft het systeem dit aan en stuurt het de beslissing door naar een gekwalificeerde medewerker. Deze symbiotische relatie tussen AI-voorspellingen en menselijk oordeel maakt verantwoorde AI-implementatie duurzaam in gereguleerde omgevingen.

Dit is de laatste aflevering van een driedelige serie over AI als operationele krachtversterker. Bekijk de volledige serie: AI verving deze werknemers niet. Het gaf hun hun missie terug en EP33.

Vond u deze aflevering interessant? Deel hem dan met een collega.

Heeft u een onderwerp dat u graag besproken wilt zien of een vraag waarop u antwoord wilt krijgen? Neem dan contact met ons op via jillian.viner@insight.com

Je kunt erg innovatief zijn, maar je kunt het vertrouwen van je klanten verliezen als je niet voorzichtig bent. We zeiden daarom altijd dat het erom gaat wanneer je blijft ontwikkelen en wanneer je pauzeert. 'Oké, dit is er nog niet klaar voor. We hebben meer tijd nodig.' Dat is een afweging die we elke dag maken."

Abhijeet Gulati

Abhijeet Gulati
Head of AI, Mitchell

Veel gestelde vragen

Audio transcript:

Every Product Leader Feels the Speed vs. Trust Tension. Here's How To Break It.

We’re in the process of finalizing the transcript. Please check back soon for the completed version.

Leer meer over onze sprekers

Headshot of Stream Author

Jillian Viner

Marketing Manager, Insight

Jillian is als marketingmanager van de Insight-brandcampagne de drijvende kracht achter krachtige content en sterke merkverhalen. Met meer dan tien jaar ervaring in marketing vertaalt zij strategische doelstellingen naar impactvolle campagnes die de zichtbaarheid en reputatie van Insight versterken. Door strategie en storytelling naadloos samen te brengen, helpt zij Insight te positioneren als een vertrouwde adviseur en thought leader in de technologiebranche.

Headshot of Stream Author

Abhijeet Gulati

Head of AI, Mitchell

Registreren: Blijf op de hoogte met Insight On

Abonneer u vandaag nog op onze podcast om automatisch op de hoogte te worden gehouden van nieuwe afleveringen. U vindt Insight On op Amazon Music, Apple Podcasts, Spotify en YouTube.