Er det altid værd at tilføje kunstig intelligens til produktudviklingsprocessen? | AI i erhvervslivet #55

Den rolle, som kunstig intelligens spiller i produktudviklingsprocessen

Kunstig intelligens kan støtte mange aspekter af design- og implementeringsprocessen for nye produkter. Ofte er det en god idé, og de vigtigste fordele inkluderer:

• Markedsundersøgelse – at accelerere forskning eller udføre den i større skala er muligt ved at automatisere gentagne opgaver, såsom analyse af spørgeskemaer eller transskription af interviews, for eksempel. Dette giver teamet mulighed for at fokusere på de mere kreative og udfordrende aspekter af produktudvikling,
• Ny inspiration – faciliteret adgang til et bredere spektrum af ideer er en af de største fordele ved generativ AI. AI-algoritmer kan søge i enorme databaser efter ukendte mønstre og koncepter, der går ud over designeres tidligere tænkning,
• Indgående dataanalyse – bedre forståelse af målgruppens behov gennem behandling af data om deres adfærd, præferencer og købsmotivationer.

Men hvornår er det en god idé at tænke en ekstra gang, før man bruger AI-samarbejde?

I nærbillede: De skjulte udfordringer ved implementering af AI

Selvom kunstig intelligens i produktudviklingsprocessen betyder mange nye muligheder, er dens implementering ikke uden udfordringer. De vigtigste af disse er:

• behovet for grundig træning af produktteams og tilpasning af eksisterende arbejdsprocesser til integration med AI-systemer. Dette kan være vanskeligt i store, hierarkiske organisationer bemandet med specialister, der er knyttet til traditionelle arbejdsmetoder,
• bekymringer om sikkerheden af kundedata der træner AI-algoritmer. For at drage fordel af yderligere sikkerhedsfunktioner har virksomheder ofte brug for virksomhedslisensaftaler, der kan overstige budgettet for små organisationer. Derfor vælger mindre virksomheder nogle gange at implementere småskala åbne modeller som Llama 2, Vicuna eller Alpaca. Det er sandt, at de kræver mere kraftfuld hardware i virksomheden, men de giver datasikkerhed. Dette skyldes, at maskinlæringsmodeller er afhængige af følsomme personlige oplysninger. Hvis sikkerheden ikke er korrekt opsat, kan deres lækage have katastrofale konsekvenser for virksomhedens image,
• øget kompleksitet og diffusion af ansvar for nøgleforretningsbeslutninger, der involverer AI-systemer. Hvem bærer det finansielle og omdømmemæssige ansvar for eventuelle fejl i disse systemer? Hvordan sikrer man tilsyn med AI “black boxes”?

Black box-fælden. Manglende gennemsigtighed i AI-beslutninger

En af de grundlæggende ulemper ved avancerede maskinlæringsteknikker, såsom neurale netværk, er manglen på gennemsigtighed i de trufne beslutninger. Disse systemer fungerer som “black boxes,” der omdanner input til ønskede resultater uden at kunne forstå den underliggende logik.

Dette gør det alvorligt vanskeligt at sikre brugerens tillid til AI-genererede anbefalinger. Hvis vi ikke forstår, hvorfor systemet foreslog en bestemt produktvariant eller koncept, er det svært at vurdere fornuften i forslaget. Dette kan føre til mistillid til teknologien som helhed.

Virksomheder, der bruger kunstig intelligens i produktudvikling, skal være opmærksomme på “black box”-problemet og tage skridt til at øge gennemsigtigheden af deres løsninger. Eksempler på løsninger inkluderer:

• visualiseringer af dataflow i neurale netværk, eller
• tekstuelle forklaringer af beslutninger truffet genereret af yderligere algoritmer.

AI og etik. Hvordan undgår man diskrimination og bias?

Et andet vigtigt spørgsmål er de potentielle etiske problemer forbundet med AI. Maskinlæringssystemer er ofte afhængige af data, der er underlagt forskellige typer bias og mangel på repræsentativitet. Dette kan føre til diskriminerende eller uretfærdige forretningsbeslutninger.

For eksempel syntes Amazons rekrutteringsalgoritme at favorisere mandlige kandidater baseret på virksomhedens historiske ansættelsesmønstre. Lignende situationer kan opstå, når man udvikler applikationer med maskinlæring til:

• At fastsætte prioriteter for kundeservice,
• Annonce målretning,
• Forslå specialister i det umiddelbare område, eller
• Personalisering af produktanbefalinger.

For at undgå sådanne problemer skal virksomheder nøje analysere de datasæt, de bruger, for tilstrækkelig repræsentation af forskellige demografiske grupper og regelmæssigt overvåge AI-systemer for tegn på diskrimination eller uretfærdighed.

Algoritmernes grænser. Kunstig intelligens i processen

Kunstig intelligens kan støtte den kreative proces, søge efter ideer og optimere løsninger. Der er dog stadig få virksomheder, der vælger at stole fuldt ud på AI. At anvende kunstig intelligens i indholdsproduktionsprocessen tilbyder utrolige muligheder, men de endelige beslutninger om offentliggørelse eller kontrol af informationen i de genererede materialer skal træffes med menneskelig indblanding.

Derfor skal designere og produktledere være opmærksomme på begrænsningerne ved AI-teknologi og betragte den som en støtte snarere end en automatisk kilde til færdige løsninger. Nøgledesign- og forretningsbeslutninger kræver stadig kreativitet, intuition og en dyb forståelse af kunderne, som algoritmer alene ikke kan give.

Kilde: DALL-E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Sikre kontrol og juridisk overholdelse

For at minimere AI-risici skal virksomheder implementere passende tilsyns- og kontrolmekanismer for disse systemer. Dette inkluderer, men er ikke begrænset til:

• Verifikation af korrekthed og kilder til information genereret af AI-modeller før deres praktiske anvendelse,
• Revisioner af maskinlæringsalgoritmer for bias, forudsigelsesusikkerhed og gennemsigtighed i beslutninger,
• Etablering af et specialist- eller etikudvalg til at overvåge design, test og anvendelse af AI-systemer i virksomheden,
• Udvikling af klare retningslinjer for acceptable AI-applikationer og grænserne for disse systemers indgriben i forretningsprocesser og designbeslutninger,
• Uddannelse af designere til at være opmærksomme på begrænsningerne og faldgruberne for at undgå en alt for ukritisk afhængighed af dens indikationer.

Sammenfatning

Afslutningsvis åbner kunstig intelligens uden tvivl op for spændende udsigter for optimering og acceleration af design og implementering af nye produkter. Dog er dens integration med legacy-systemer og praksisser ikke uden udfordringer, hvoraf nogle er fundamentale – såsom usikkerhed og mangel på forudsigelig gennemsigtighed.

For at udnytte AI’s potentiale fuldt ud skal virksomheder behandle det med en passende mængde forsigtighed og kritik, forstå teknologiens begrænsninger. Det er også afgørende at udvikle etiske rammer og kontrolprocedurer, der minimerer de risici, der er forbundet med implementering af avancerede algoritmer i reelle forretningsprocesser. Først da kan AI blive et værdifuldt og sikkert supplement til menneskelig kreativitet og intuition.

Hvis du kan lide vores indhold, så bliv en del af vores travle bier-fællesskab på Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.