Skärmarna som kostade tio sjömän livet
Publicerad 17 januari 2020 | 3 kommentarer
The Navy installed touch-screen steering systems to save money.
Ten sailors paid with their lives.
Collision course (Propublica, 20 dec 2019)
Inte så många av oss har sin arbetsmiljö på ett krigsskepp. Men Propublicas detaljerade genomgång av hur en dålig digital arbetsmiljö orsakade den värsta fredstida olyckan för den amerikanska marinen på 40 år är otroligt lärorik.
Det finns många paralleller i andra verksamheter: Det märkliga fallet med operationslamporna som inte kunde tändas vid ett akut kejsarsnitt (Akut kejsarsnitt i mörker, 2 jan 2020) har många grundläggande likheter med vad som gick fel ombord på jagaren USS McCain i augusti 2017.
En huvudsaklig faktor var ett uselt gränssnitt. Trots att systemet man installerat för att styra jagaren alltså var nyutvecklat, hypermodernt och touch-skärm-baserat, ser det ut som något från Windows 95.
(De blå avdelande linjerna finns inte i originalinterfacet utan är tillagad i rapporten för att förtydliga.)
Och en avgörande information – nämligen vilken av de två styrenheterna som hade kontrollen – visades bara med en minimal, tolv punkters textrad uppe i ena hörnet. När jagaren McCain skulle väja för en oljetanker i det smala Malackasundet, uppstod viss förvirring, och oklarheten kring vilken enhet som faktiskt styrde gjorde att man girade rakt mot oljetankern och rammade den.
Men det är tydligt att flera andra faktorer spelade in.
- Systemet var synnerligen buggigt och opålitligt, vilket gjorde att man inte vågade lita på signaler som var korrekta.
- Träningen var otillräcklig.
- Manualerna ofullständiga.
- Bemanningen för låg – med avsikt, eftersom syftet med det digitala systemet just var att spara in på bemanningen.
- Brådska – på alla plan, från att ta tekniken i bruk, till det aktuella uppdraget.
- Och situationen var stressfylld: Malackasundet är en av världens mest trafikerade sjövägar.
I stort sett alla dessa faktorer känner vi igen från många civila verksamheter – inte minst från vården i Sverige.
Propublicas genomgång visar att flottan lade skulden på enskilda sjömän; trots att de interna utredningarna visade på typiska systemfel. Även det kan vi i viss mån känna igen, i kraven på att användarna måste ha ”högre digital kompetens” (vad nu det är). När det i själva verket är ledningar, administratörer och utvecklare som behöver större systemkompetens.
Men detta är ett globalt fenomen: vi lägger snabbt skulden på människor när komplexa system går fel, som den här studien av Madeleine Clare Elish visar: When new technology goes badly wrong, humans carry the can (Guardian, 31 mars 2019).
Kommentarer
3 kommentarer to “Skärmarna som kostade tio sjömän livet”
Skriv en kommentar
28 april 2020 @ 9:57
Åh, vad jag känner igen mig. Har nyss fått en sprillans ny och digital arbetsmiljö.
* Viktiga knappar finns bara på två av flera dussin möjliga skärmbilder,
* fungerande kamerautrustning är inte, eller bara delvis (och då högst osystematiskt delvis) inkopplad i en eller flera av fyra skärmar,
* klockangivelser har fel timme och eller fel minut och kan inte ställas om av användaren utan måste felanmälas och åtgärdas vid nästa systemuppdatering,
* samtliga utrymmen där utrustningen finns har olika uppdateringar av den,
* indikeringar har minimala visuella skillnader i färger och former (de akustiska uppmärksamhetssignalerna är däremot förödande påträngande),
* gränssnitt för felmeddelanden är 10punkters med radavstånd 0,0,
* skärmarna har en fast vinkel som inte ger bra syn för den som inte har exakt rätt kroppslängd,
* skyltning inne respektive yttre väljs genom knappar som betecknas med den teknik skärmarna har (TFT resp. LED), inte om de syftar på inre eller yttre skärmar,
* och hela systemet ger hela tiden feedback som inte stämmer, exempelvis klickar fjädern i det fåtal återstående fysiska knappar, men kommandot når inte fram till systemet om man tryckt aningen för löst (trots att alltså fjädern klickar till i knappen),
* likaså har två personer skadats fysiskt när de klämt sig för att de litat på att systemet larmar när luckan går igen och att det har ett klämskydd, för att ingenjörerna lyckats konstruera det så att larmet ger alla hörselskada så länge klämskyddet fungerar, men uteblir helt när det verkligen behövs, dvs när klämskyddet är satt ur spel av planerade tekniska anledningar.
Jag skulle kunna skriva mycket mer om denna nya systemflora samt om alla de andra systemflororna jag dagligen brottas med, men jag blir ju bara så trött…. :/ och risken är stor att det blir för lätt för måna att avslöja vilka system jag pratar om, och det hör inte hit i kommentarsfältet. =)
Tack, Jonas, för en bra bok!
28 april 2020 @ 10:05
Glömde, men måste bara nämna det mest groteska av allt i denna nya miljö: Det säkerhetssystem som är viktigare än de andra och som ska handhas likadant i alla liknande miljöer: systemet finns i en gammal och en ny variant, den nya uppfanns med målet att vara EU-standard. Den nya måste än så länge klara av att bete sig som den gamla svenska varianten också. En panel med tumhjul, reostat och knappar har ersatts av en skärm. Det groteska är att denna nya variant redan finns i två olika varianter som handhas delvis olika för att efterlikna det gamla systemet. Borta är all trygghet man skaffat sig för att tio års erfarenhet av hur systemet beter sig och ska handhas raseras, inte på ett sätt, utan på två olika sätt. Tack.
1 maj 2020 @ 11:24
Jisses Annette, tusen tack! En förödande katalog! Hoppas verkligen ni kan mobilisera för att få åtminstone några ändringar till stånd …