CIO sigter mod at udvide teamet ved at skabe digitale kloner af medarbejderne

UC San Diego’s CIO ønsker at bruge AI-agenter og digitale tvillinger til at automatisere IT-arbejde, forbedre cybersikkerhed og lette medarbejdernes byrder.

Under denne uges Cisco Live konference, foreslog Dr. Vince Kellen at anvende AI-agenter og digitale tvillinger af erfarne IT-medarbejdere til at håndtere gentagne opgaver og nødsituationer om natten, som først rapporteret af The Register.

Taler til et fyldt publikum sagde Kellen, “Alle veje fører til høje niveauer af automatisering, når vi kan,” rapporterer The Register.

Universitetet fungerer som en lille by, da det byder velkommen til mere end 100.000 mennesker om dagen, samtidig med at det skal håndtere faldende studenterindskrivning og begrænsede økonomiske ressourcer

Kellen forudser, at AI-systemer vil tilegne sig viden fra tech-arbejdere for at håndtere stigende krav i fremtiden. “Vi har al denne viden i mennesker omkring netværkspolitik, som vi skal få ud af deres hoveder i en slags drypvandingsfashion,” sagde han, som rapporteret af The Register.

Kellen tror, at langsom overførsel af denne viden til AI ville gøre det muligt for IT-teams at reducere deres arbejdsbyrde og forbedre netværksydelsen.

Oceanografisk Institut på UCSD står også overfor nationale sikkerhedstrusler. “Når du putter sonar i vandet, opdager du mere end fisk, og andre lande vil gerne vide om det,” advarede han, som rapporteret af The Register.

Udenlandsk-støttede cyberangreb bliver mere sofistikerede, hvilket kræver, at personalet automatiserer grundlæggende forsvar, så de kan fokusere på farligere trusler.

Kellen tror, at AI “har potentialet til at muliggøre proaktiv opdagelse af problemer” og ser digitale kloner som en måde at bevare medarbejdernes ekspertise på, samtidig med at deres byrde lettes. “Så behøver den person ikke at blive tortureret, når der er endnu en hændelse. De bliver ikke kaldt næste gang,” tilføjede han, som rapporteret af The Register.

Hans ide rejser et provokerende spørgsmål: Ville du lade din arbejdsgiver digitalt klone din ekspertise, hvis det betød færre stressende udrykninger? I takt med at automatiseringen vokser, kan grænsen mellem menneskeligt og maskinelt arbejde blive sløret, men for IT-teams kan det betyde meget tiltrængt aflastning.

Dog øger øget automatisering også bekymringer om cybersikkerhed. Systemer, der drives af automatiserede IT-arbejdere og AI-agenter, præsenterer attraktive mål for hackere, da et angreb på disse systemer kan resultere i omfattende forstyrrelser.

Faktisk kunne en kompromitteret digital tvilling bruges til at omgå sikkerhedsprotokoller og sprede malware hurtigere end menneskelige operatører.

En rapport fra World Economic Forum argumenterer for, at angribere kan forurene AI-træningsdata eller finde sårbarheder i AI-modeller, hvilket resulterer i systemfejl eller forkert outputgenerering.

Disse “dataforgiftning” og modeludnyttelsesangreb er ofte lette at udføre, men svære at forsvare sig imod, da nuværende sikkerhedsforanstaltninger er utilstrækkelige, som bemærket af ITPro.

På trods af disse risici, anerkender 96% af IT-fagfolk AI-agenter som en sikkerhedstrussel, men de fleste organisationer skynder sig at implementere dem uden ordentlige kontroller eller politikker, som rapporteret af ZDNet.