Baggrund
Nylige gennemgange identificerer 42+ studier om menneskelig supervision af Maritime Autonomous Surface Ships, med fokus på udfordringer med AI-transparenthed og fejlforudsigelse. Klare AI- forklaringer reducerer fejl med 20-30%, men for mange alarmer (>10 på 10 min) overvælder og underminerer tillid. Falske alarmer får besætningen til at ignorere rigtige farer – som „Drengen der råbte ulv“. Tillidsgenopbygning kræver klare opdateringer. Hjernbølger (EEG), frustration-signaler og eye-tracking er brugt til at vurdere mental belastning og opmærksomhedstab, og kan anvendes i simulerede studier til at måle kaskadefejls virkning, forstå tillid ved AI- genopretning og evaluere nye designstrategier.
Projekt
Dette projekt undersøger human-AI-interaktion i sikkerhedskritiske maritime operationer gennem tre sammenkædede arbejdspakker med psykofysiologiske målinger i simulatorer. Arbejdspakke 1 tester AI-transparenthedens effekter på brugernes kognition og præstation under en række simulerede fejlscenarier. Arbejdspakke 2 bygger videre ved at evaluere genopretningsprotokoller
under ekstreme fejlbelastninger, sammenligne autonome vs. guidet tilstande for meningsskabelse og observere brugernes kognitive aspekter som kontrolfølelse eller følelsesmæssig intensitet.
Arbejdspakke 3 undersøger potentielle interventionsstrategier for human-AI-kommunikation over gentagne fejl, og forbinder transparenthedsinterventioner med genkalibrering via EEG/eye-
tracking/HRV-markører. Sammen leverer de modeller, retningslinjer og metrikker til resiliente
designs, der tackler alarmtræthed og tillidshuller i MASS.
Forventede resultater
- En valideret model forbinder AI-transparenthed, genopretningsprotokoller og operatørens psykofysiologi med beslutningskvalitet og tillid, og tackler maritime alarmhuller via et konceptuelt diagram med målbare tærskler for redesign.
- Bevisbaserede metrikker, der kan måles i reelle maritime miljøer for at vurdere operatørens kognitive tilstand under AI-assisteret beslutningstagning, potentielt brugt til træning, arbejdsbelastningshåndtering og systemdesign.
- Specifikke, implementerbare retningslinjer for maritime softwareudviklere og designere, inklusive: hvordan man tackler transparenthed i fejlkommunikation, design af fejlgenopretningsgrænseflader og støtte til tillidskalibrering for autonome systemer.