Simon Willison lanserar nytt Python-paket för OpenAI-beslutsstöd
Simon Willison har släppt en tidig alfaversion (0.1a0) av Python-paketet 'llm-openai-decisions', som verkar vara ett verktyg kopplat till hans populära 'llm'-kommandoradsverktyg. Informationen är dock mycket knapphändig – det finns inte tillräckligt med detaljer för att bedöma vad paketet faktiskt gör eller varför det är intressant.
Djupdykning
Det här är ett tidigt alpha-release (0.1a0 – notera "a0", vilket betyder att det inte ens är en färdig alpha ännu) av ett Python-paket som verkar syfta till att låta OpenAIs språkmodeller fatta strukturerade beslut i kod. Paketet i sig är knappt mer än ett namn och ett versionsnummer just nu, men det signalerar en riktning som många AI-utvecklare arbetar mot: att ersätta hårdkodad if-else-logik med mjukare, mer kontextmedveten beslutsfattning driven av en LLM (Large Language Model, alltså en stor tränad språkmodell som GPT-4). Det verkliga problemet som det här försöker lösa är inte tekniken – det är att dagens applikationer antingen använder AI som en glorifierad chattbot eller försöker bygga hela beslutsmotorer från grunden utan gemensamma verktyg. Vad de flesta missar är att värdet i ett sådant paket inte ligger i vad det gör nu, utan i det konventioner och mönster det etablerar – om tillräckligt många börjar använda samma abstraktionslager för AI-beslut blir det lättare att audita, felsöka och byta ut underliggande modell. Liknande saker hände med ORM-bibliotek som SQLAlchemy: ingen brydde sig om version 0.1 i sig, men de abstraktion det introducerade formade hur en hel generation hanterar databaser.