Sprachmodelle

Modell-Auswahl

Im Prompt-Assistenten kannst du auswählen, welches Sprachmodell (LLM) du für die Aufgabe nutzen möchtest. Welche Modelle hier angezeigt werden, hängt davon ab, was dein Administrator gebucht hat. Die AI-Tools unterstützen zur Zeit die Modelle von OpenAI/Azure und Anthropic:

• GPT-4 Omni: ist das leistungsfähigste Modell und schneller als GPT-4 Turbo. Es enthält Informationen bis Oktober 2023. Die Token kosten im Vergleich zu GPT-4 Turbo die Hälfte.

• Claude 3.5 Sonnet: Das leistungsfähigste Modell von Anthropic. Es ist gesprächiger als GPT-4 Omni und etwas langsamer. Es enthält Informationen bis April 2024.

• GPT-4 Omni mini: schnell, leistungsfähiger und 60% günstiger als GPT-3.5 Turbo. Es enthält Informationen bis Oktober 2023.

• Claude 3.5 Haiku: Das kleine und schnelle Modell von Anthropic. Vergleichbar mit GPT4 Omni mini. Es enthält Informationen bis Juli 2024. Die Kosten liegen um den Faktor 4 höher als beim Vorgänger Claude 3 Haiku.

• Claude 3 Haiku: Das kleine Modell von Anthropic und der Vorgänger der Version 3.5. Es enthält Informationen bis August 2023.

• GPT-4 Turbo: ist leistungsfähig und kreativ. Es enthält Trainingsdaten bis Dezember 2023.

• GPT-3.5 Turbo: ist das schnellste Sprachmodell und günstig. Es kann einfache Textaufgaben erfüllen. Der Wissensstand reicht bis September 2021. Die Token-Preise liegen um den Faktor 20 niedriger als bei GPT-4 Turbo.

Lege dir bei einem oder mehreren dieser KI-Provider einen Account an und übermittele die API-Keys an das Radio Creator Team.

OpenAI

Vorteil: Es sind immer die neuesten Modelle verfügbar. Nachteil: Die Server stehen in den USA und die Daten werden dort verarbeitet.

Auf der OpenAI-Plattform wird ein API-Key für die AI-Tools erstellt. Dieser Key wird an das Radio Creator Team übermittelt. Der Key hat dieses Format: sk-1234567890abcdef1234567890abcdef

OpenAI-Konto erstellen: https://platform.openai.com/signup

Microsoft Azure OpenAI

Vorteil: Europäische Server und Datenverarbeitung. Nachteile: Die Modelle sind nicht immer auf dem neuesten Stand. Die Einrichtung ist umständlich.

• Zunächst ist ein kostenloses Microsoft Azure-Konto erforderlich. Dort muss eine neue Ressource erstellt werden: https://learn.microsoft.com/de-de/azure/ai-services/openai/how-to/create-resource?pivots=web-portal

• Um die Microsoft KI-API nutzen zu dürfen, muss man ein Formular ausfüllen, indem man erklärt, was man mit der KI machen möchte. Microsoft möchte sich damit vor Missbrauch schützen. Es kann danach einen Tag dauern, bis man Zugriff bekommt. Zum Formular: https://customervoice.microsoft.com/Pages/ResponsePage.aspx?id=v4j5cvGGr0GRqy180BHbR7en2Ais5pxKtso_Pz4b1_xUNTZBNzRKNlVQSFhZMU9aV09EVzYxWFdORCQlQCN0PWcu

• Jetzt den API-Endpunkt und eine Ressource mit KI-Modellen einrichten. Nicht alle KI-Modelle sind auf allen Microsoft Regional-Servern vorhanden. Die für die AI-Tools erforderlichen Modelle (GPT 3.5, GPT4, DALL-E3) sind in der Region Europe/Schweden verfügbar. Deshalb bitte diese Region wählen.

• Beim Einrichten der Ressource muss man den Modellen Namen geben. Bitte diese Namen verwenden: gpt-4-turbo, gpt-35-turbo, dall-e-3.

Anthropic

Ehemalige Mitarbeiter von OpenAI haben im US-Bundesstaat Delaware die Firma Anthropic gegründet. Sie haben die Modelle Claude 3.5 Sonnet und Claude 3 Haiku entwickelt. Diese Modelle sind in den AI-Tools verfügbar.

Die Leistungsfähigkeit der Anthropic-Modelle ist mit der von OpenAI vergleichbar. Die Modelle sind etwas langsamer und gesprächiger. Die Token-Preise sind etwas günstiger.

• Anthropic-Konto erstellen: https://console.anthropic.com/

• In der Konsole unter API keys einen Key erstellen und an das Radio Creator Team übermitteln. Der Key hat dieses Format: sk-ant-api12-3456…