Under opbygning 🔨

Digitalt suveræn: AI

4–6 minutter
Foto af en fri fugl på en strand der trækker et flag med Librelab
Genereret af Flux-2-Klein på en af vores linux-bærbare med AMD-processor.

AI er blevet allemandseje, da rigtig mange helt almindelige mennesker bruger det til deres dagligdags gøremål, både på arbejde og hjemme i privaten.

AI er med andre ord blevet blot ét af de mange værktøjer vi rutinemæssigt trækker op af værktøjskassen, særligt når vi skriver, læser korrektur, opsummerer og henter inspiration. På den måde kan AI erstatte mange andre værktøjer, som eksempelvis Google til søgning.

Men er AI godt eller dårligt for menneskeheden? Det er nok for tidligt at sige noget om, men lige nu er det et værktøj der, brugt korrekt, kan hjælpe med mange gøremål.

Opsummering

Hos Librelab bruger vi udelukkende Open Source-AI eller AI fra europæiske leverandører.

Open Source-sprogmodeller afvikler vi først og fremmest på egen hardware.

For ikke teknisk kyndige, eller andre der bare gerne vil have noget der virker, anbefaler vi Mistral AI. Til de fleste opgaver er deres Le Chat stort set på højde med de bedste ikke-europæiske.

Tag også et kig på danske chat.dk!

Nogle brugsmønstre risikerer dog at ødelægge mere end de gavner. Eksempelvis kan AI-søgning være ødelæggende for internettets primære forretningsmodel med betalt indhold. De seneste 25 år er mange ophavspersoner blevet betalt for at lægge deres indhold på nettet. Midlerne er kommet fra visning af reklamer, eller ved at opsætte en betalingsmur foran eksempelvis avisers artikler. AI-bots er blevet dygtige til at hoppe over disse mure, hvorefter de opsnapper og gemmer kopier af store mængder betalingsindhold. Ofte uden at betale.

En ny undersøgelse viser interessant nok, at læger der bruger AI til at løse deres opgaver, løser dem dårligere end AI’en alene. Betyder det at AI endelig er blevet klogere end mennesker? Eller betyder det snarere, at vi alle bliver dummere af at bruge AI?

Mens disse eksempler blot er et par af mange potentielle kæmpe problemer med AI, er dette indlæg ikke en opsang mod AI.

Tværtimod bruger vi selv AI til masser af opgaver – dog ikke til at skrive dette blog-indlæg! 😇

Dette er heller ikke et indlæg der vil gå i detaljer med hvordan vi bruger AI. Det vil vi skrive om i et fremtidigt indlæg.

Alternativer til bigtech AI

Dette er til gengæld et indlæg der kort fortalt vil gøre dig opmærksom på, at der findes reelle europæiske og open source-alternativer til OpenAI ChatGPT, Microsoft Copilot og Anthropic Claude.

Mistral AI – Europas førende AI

Det mest prominente europæiske alternativ er franske Mistral AI’s Le Chat. Den fungerer fremragende til stort set alle opgaver, inklusive generel sparring, generering af illustrationer og lignende.

Open Weight?

De fleste “åbne” sprogmodeller, er ikke “rigtig” open source, men derimod open weight, da kun de mange parametre der svarer til den trænede “hjerne” er gratis.

For at være ægte open source, skal virksomhederne også gøre den software og de data de har benyttet til at træne modellerne tilgængelige.

Der er ganske få eksempler på ægte open source sprogmodeller. Et af dem er Olmo fra amerikanske Allen AI.

Da Mistral AI er fransk, er de både som service og virksomhed underlagt EU’s strenge persondatapolitik. Bruger man den gratis version kan de bruge dine samtaler til træning, hvilket du kan slå fra hvis du betaler. Med betaling får du også adgang til at kalde deres modeller via API’er, hvis du er teknisk anlagt og vil indbygge Mistral’s AI i dine egne løsninger.

Mistral tilbyder også Open Weight sprogmodeller til gratis download, hvorved mindre udgaver af deres kommercielle modeller også kan bruges på egen hardware.

Dette kræver dog en vis mænge RAM og processorkraft (GPU).

Danske OdinLLM

Ordbogen A/S har lavet deres egen sprogmodel, de kalder OdinLLM. Du kan bruge den gratis på https://chat.dk, og vi er blevet meget positivt overraskede.

Det eneste vi savner fra Ordbogen, er en open weight OdinLLM. Eller måske endda en Open Source? Men uanset hvad bliver det spændende at følge med i Ordbogen A/S’s lovende initiativ.

Kommunale OS2ai

OS2ai, der primært er udviklet i et kommunalt samarbejde centreret omkring Aarhus kommune, er som en del af et europæisk konsortie for nylig blevet udpeget som udfordrer til bigtech i et fælleseuropæisk storskalaprojekt. Det sætter Danmark på europakortet, hvilket kun kan være godt.

Man kan desværre ikke selv afprøve OS2ai, medmindre man er ansat i en af de kommuner der har fået rullet det ud i en tidlig version. Men vi glæder os meget til at følge udviklingen.

Små sprogmodeller til lokal brug

Der findes efterhånden ret mange gode, lokale sprogmodeller. Nogle af dem kan bruges til stort set alt det som de store kommercielle sprogmodeller kan. Man siger at open weight-modellerne efterhånden har opnået 90% af de kapabiliteter man forventer fra bigtech’s modeller.

Vores erfaring viser dog, at det er vanskelligt at bruge en enkelt, lille lokal sprogmodel til komplicerede opgaver som eksempelvis udvikling af software. Til den brug skal man opsætte mere avancerede systemer, der består af et “team” af små sprogmodeller der arbejder sammen.

Vil man gerne i gang, kan man tage et kig på eksempelvis Ollama eller Lemonade, der begge er open source, og gør det let at komme i gang med at køre sine sprogmodeller lokalt.

God fornøjelse!


Er der en dansk eller europæisk sprogmodel du synes vi mangler at omtale? Fortæl os om det i kommentarfeltet nedenfor, og del gerne ud af dine erfaringer!

Fediverse reactions

Kommentarer

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *

Tilmeld dig vores nyhedsbrev!