Was ist generative KI und wie kannst du sie nutzen?

Generative KI Funktionen mit und ohne Microsoft Azure verwenden

Geht es dir wie vielen IT-Administratoren, Managern oder Vertrieblern? Alle reden von AI und du blickst nicht mehr durch, bzw. möchtest den Anschluss nicht verlieren? Entwickler klammere ich hierbei bewusst aus, denn diese sind meist Vorreiter im Vorantreiben neuer Technologien. Natürlich geht es letztendlich darum, die Entwicklung moderner Cloud-nativer Anwendungen durch die Anreicherung mit AI auf das nächste Level zu heben. Wenn deine Entwickler dich mit neuen Vorschlägen oder Forderungen aus dem KI-Schlaraffenland beglücken, solltest du aber mitreden können. Und das gelingt einfach mit und in Microsoft Azure. Erfahre in diesem Artikel, was man unter generativer AI versteht und wie du sie für dich nutzen kannst. Zusätzlich empfehlen ich dir den Kurs Microsoft Azure AI Fundamentals (AI-900).

Passende Schulungen

AI-102 – Designing and Implementing a Microsoft Azure AI Solution (AI-102T00)

AI-900 – Microsoft Azure AI Fundamentals (AI-900T00)

AI-900 – Microsoft Azure AI Fundamentals (AI-900T00): Einführung in künstliche Intelligenz (AI) und Grundlagen von AI in Azure

Generell lassen sich KI-/AI-Dienste in drei Kategorien einteilen, nämlich …

• Künstliche Intelligenz / Expertensysteme
• Machine Learning
• Data Science

Wir reden in diesem Beitrag selbstverständlich über KI. Trotzdem ist es zu Abgrenzung hilfreich, auch die Möglichkeiten und Grenzen der anderen Kategorien zu kennen.

Unter Data Science versteht man heute eine weitgehend interdisziplinäre Wissenschaftsdisziplin, welche sich mit der Verarbeitung und Analyse von Daten befasst. Dabei geht es im Wesentlichen um die Anwendung statistischer Methoden zwecks Auffinden und Visualisieren von Beziehungen und Mustern in diesen Daten. Dazu definieren Datenwissenschaftler experimentelle Modelle, die sie beim Auffinden solcher Muster unterstützen.  

Dabei nutzen Datenwissenschaftler nicht immer, aber sehr oft Modelle des maschinellen Lernens. Maschinelles Lernen ist eine AI-Disziplin, die sich mit dem Trainieren und Validieren von Vorhersagemodellen befasst. Wenn du mehr über maschinelles Lernen erfahren willst, solltest du einen der Kurse AI 900 oder AI 102 buchen. Der Bereich maschinelles Lernen ist genauso interdisziplinär wie die anderen KI-Segmente. Hier begegnen, bzw. ergänzen sich Datenwissenschaftler, Daten-Analysten und Programmierer. Oft bereitet eine wissenschaftliche Daten-Fachkraft diese so vor, dass sie für das Trainieren eines Modells auf Basis eines bestimmten Algorithmus verwendet werden können, welche die Beziehungen zwischen den Merkmalen in den Daten nutzt, um Werte für unbekannte Bezeichnungen vorhersagen zu können.

Unter künstlicher Intelligenz (KI) hingegen versteht man heute im Allgemeinen eine Software, die ein oder mehrere Eigenschaften menschlicher Intelligenz nachahmen kann. Beim Erstellen solcher KI-Software kommt maschinelles Lernen als eines der wichtigsten Verfahren, bzw. Methoden zum Einsatz. Auf der anderen Seite können Erkenntnisse aus der Data Science auch das Verstehen und Implementieren künstlicher Intelligenz unterstützen.

Herkömmliche AI versus generative AI

Herkömmliche KI, auch als traditionelle oder prädiktive KI bekannt, konzentriert sich auf die Analyse von Daten, Mustererkennung und Entscheidungsfindung. Sie wird oft für Aufgaben wie Klassifikation, Vorhersagen und Optimierung verwendet.

Ich habe dir im Rahmen meine Artikelreihe zu den ehemaligen Azure Cognitive Services (heute Azure AI Services) hierzu eine ganze Reihe von Beispielen gezeigt, etwa aus den Bereichen maschinelles Sehen (Bilderkennung), Texterkennung/Analyse (Language) der Spracherkennung /Synthese (Speech).

Generative KI geht einen Schritt weiter, indem sie neue Inhalte erzeugt. Sie nutzt fortschrittliche Algorithmen wie Generative Adversarial Networks (GANs) und Variational Autoe ncoders (VAEs), um originelle Daten zu erstellen, die den Trainingsdaten ähneln, aber nicht identisch sind, etwa die Erstellung von Texten (wie bei ChatGPT), Generierung von Bildern (wie bei DALL-E), Musikkomposition und sogar die Entwicklung neuer Designs und Prototypen.

Generative KI ist eine neue und sehr schnell wachsende KI-Disziplin, das sich auf KI-Modelle konzentriert, die neue Inhalte generieren können. Das umfasst Text, Bilder oder sogar Programmcode. Generative AI tut das auf eine Weise, die sich wie die Interaktion mit einer realen Person in einer echten Unterhaltung anfühlt. Generative KI-Modelle basieren in der Regel auf „Large Language Modells“ (LLMs), großen Sprachmodellen, welche wiederrum auf einer Transformatorarchitektur aufbauen, die sich in den letzten Jahren aus dem maschinellen Lernen entwickelt hat. Generative KI-Modelle werden häufig mit Aufforderungen in natürlicher Sprache abgefragt.

Eines der wohl bekanntesten Large Language Models ist ChatGPT vom Unternehmen OpenAI. „Ältere“ Sprachmodelle von OpenAI wie z. B. „gpt-3.5-turbo-0301“ sind meist kostenlos oder preisgünstiger, als das aktuelle Model (chatgpt-4o-latest). Wenn du das ChatGPT-Angebot bei dessen „Erfinder“ buchst, brauchst du auf jeden Fall ein Konto bei OpenAI und in der Regel einen Preisplan. Zwar bietet auch OpenAI eine kostenlose Nutzung von ChatGPT, dieser basiert aber lediglich auf dem Modell „GPT-40-mini“.

Für neuere Modelle veranschlagt Open AI zum Teil erhebliche Aufschläge.

Sei der dabei aber bewusst, dass jedes gewählte Model immer nur auf demjenigen Kenntnisstand agieren kann, mit dem es trainiert wurde.

Durch die Partnerschaft mit OpenAI hat Microsoft das Thema ChatGPT salonfähig gemacht und einer großen Gemeinschaft zugänglich gemacht, indem Microsoft das Sprachmodell ChatGPT von OpenAI kostenfrei mit seiner Bing-Suchmaschine kombiniert. So steht jedem Internet-Nutzer im Browser seiner Wahl die Power von ChatGPT (basierend auf dem „Wissensstand“ zum Zeitpunkt des Trainings) in Kombination mit der Suchmaschine Bing zur Verfügung, also quasi ChatGPT-Wissen gepaart mit einer offenen Internet-Recherche. Du musst lediglich in Bing auf das Copilot-Symbol klicken.

Und: ChatGPT verrät uns selbst, dass die kostenlose Bing-Integration von Microsoft auf dem Sprachmodell „OpenAI GPT-4“ basiert (siehe Abbildung).

Noch einfacher fällt die ChatGPT-Nutzung mit Microsofts Edge-Browser. Hier musst du nur die Seitenleiste mit dem Copilot-Symbol aktivieren, ohne vorher zur Bing-Suchmaschine navigieren zu müssen.

Achte auf die Feinheiten. Bist du mit einem Organisationskonto an einem Unternehmensgerät (hier Windows 11 Enterprise) angemeldet, das über die passenden Copilot-Lizenz verfügt und verwendest den Browser „Edge for Business“ nutzt du Copilot in einem geschützten Kontext, zu erkennen an dem Symbol oben rechts mit dem Schutzschild. In diesem Fall wird dein Chat-Verlauf keinesfalls zum Trainieren des offenen ChatGPT-4-Modells von OpenAI verwendet. Du kannst Bing-Chat, bzw. Edge mit Copilot aber selbstverständlich auch auf einem Nicht-Unternehmensgerät verwenden. Hierbei musst du bei der ersten Verwendung den Nutzungsbedingungen von Microsoft Copilot zustimmen:

Wie zu erkennen ist, kannst du dich oben rechts mit einem Organisationskonto anmelden, musst es aber nicht. Du bist dann eben nicht in einem geschützten Kontext unterwegs. Meldest du dich hingegen mit dem Organisationskonto an, hast du auch Zugriff auf deinen Chat-Verlauf.

Auch auf einen Nicht-Unternehmensgerät und ohne Edge-Browser kannst du dich mit einem Organisationskonto mit Copilot-Lizenz (bei mir „Business Premium“) bei Copilot anmelden, muss dann aber in der M365-Weboberflächge arbeiten:

Selbstverständlich bieten inzwischen auch alle anderen Browser-Hersteller eine integrierte Browser-KI, etwa in Opera (Aria), Brave (Leo), Google (Gemini) oder Firefox (Mozilla.ai), welche eigene Large Language Models mitbringen.

Conversational Language Understanding

Du darfst allerdings den Support für generative AI in den aktuellen Browsern nicht mit den einfachen Sprachmodellen verwechseln, etwa vom Google Assistant, Amazon Alexa, Apple Siri oder Microsoft Cortana. Diese fallen in den Bereich „Conversational Language Understanding“ (CLU) und sind auf eine Aktivierung durch Schlüsselbegriffe wie „Hey Siri“ spezialisiert.

So eine CLU-Anwendung definiert ein Modell, das aus sogenannten „Absichten“ und „Entitäten“ besteht. Dabei werden „Äußerungen“ genutzt, um das Modell darauf zu trainieren, die wahrscheinlichste Absicht und die Entitäten, auf die es angewendet werden soll, auf Basis einer bestimmten Eingabe, zu identifizieren. Hast du Entitäten und Absichten mit Beispieläußerungen in deiner CLU-Anwendung definiert, kannst du ein  Sprachmodell trainieren, das Absichten und Entitäten aus Benutzereingaben vorhersagt, sogar wenn diese nicht genau mit den Beispieläußerungen übereinstimmen. Dies ist aber weit entfernt von generativer AI.

Generative KI – Was „generativ“ wirklich bedeutet?

Nun kann man hinsichtlich des Begriffes „generativ“ trefflich streiten, denn das Training des zugrundeliegenden Large Language Model ist ja in sich abgeschlossen. Das Modell kann also an Wissen nicht hinzulernen oder gar das Gelernte verwenden, um sich selbst zu verbessern. Ich habe in folgendem Beispiel, das dem Edge Copilot zugrundeliegenden ChatGPT-4-Modell genau mit dieser Frage konfrontiert. Hier ein Zitat des Char-Verlaufes:

Ich: „Hallo. Du, bzw. dein Wissensschatz basiert auf dem großen Sprachmodell ChatGTP 4 von OpenAI, richtig?“

Copilot: „Hallo! Ja, das stimmt. Mein Wissensschatz basiert auf dem großen Sprachmodell GPT-4 von OpenAI.“

Ich: „D. h. auch, dein Wissenstands ist auf dem Zeitpunkt eingefroren, zu dem Dein Modell trainiert wurde, richtig?

Copilot: “Ja, genau. Mein Wissen basiert auf Informationen, die bis zu meinem letzten Trainingszeitpunkt im Oktober 2023 verfügbar waren. Allerdings kann ich auch aktuelle Informationen aus dem Internet abrufen, um dir bei deinen Fragen zu helfen.“

Ich: „Und Du lernst durch die Chat-Verläufe der Benutzer nichts hinzu, oder?

Copilot: „Das ist richtig. Ich lerne nicht aus den individuellen Chat-Verläufen der Benutzer hinzu. Mein Wissen und meine Fähigkeiten basieren auf dem Training, das ich bis zu einem bestimmten Zeitpunkt erhalten habe. Allerdings kann ich auf aktuelle Informationen aus dem Internet zugreifen, um dir bei deinen Fragen zu helfen.“

Ich: „Wir kannst Du dann von Dir behaupten, eine generative AI zu sein? Du kannst doch kein neues Wissen generieren?“

Copilot: „Das ist eine interessante Frage! Als generative KI kann ich neue Inhalte basierend auf meinem vorhandenen Wissen und den Informationen, die ich aus dem Internet abrufen kann, erstellen. Das bedeutet, ich kann Texte, Antworten, Ideen und sogar kreative Inhalte generieren, die auf den Daten und Mustern basieren, die ich während meines Trainings gelernt habe.

Obwohl ich kein neues Wissen im Sinne von Lernen aus individuellen Chat-Verläufen hinzufüge, kann ich dennoch neue und einzigartige Antworten auf deine Fragen generieren, indem ich mein bestehendes Wissen kombiniere und anwende. Wenn du möchtest, kann ich dir ein Beispiel geben“.

Du siehst an diesem Beispiel, wo die Möglichkeiten und Grenzen generativer AI grundsätzlich liegen. Große Sprachmodelle sind in erster Linie darauf ausgelegt, dem Nutzer ein Kommunikationserlebnis zu bieten, das an die Unterhaltung mit echten Menschen erinnert. Erst die Kombination mit der Internetsuche initiiert von Microsoft, und heute in allen Browsern enthalten, erlaubt es dir beim Prompt-Engineering, auch gute Ergebnisse bei technischen Themen zu erzielen. So ist generative AI heute nicht nur in der Lage, Texte und Bilder zu generieren, sondern z. B. auch Programmcode zu optimieren oder gar zu erzeugen (gut zu beobachten beim GitHub-Copiloten).

Azure OpenAI und Azure AI Studio

Trotzdem bist du z. B. in der Verwendung des Windows Copiloten auf die Modell-Version „ChatGPT 4“ von OpenAI beschränkt. Möchtest du mehr, musst du entweder einen kostenpflichtigen Plan bei OpenAI buchen oder du nutzt dazu Microsoft Azure, insbesondere wenn du bereits über ein Azure-Abonnement verfügst.

Deine Kosten bei der Verwendung generativer AI-Dienste werden dann nutzungsbasiert über deine Azure-Subscription monatlich abgerechnet. Alles was du dazu brauchst, ist einer der Azure-Ressource-Typen „Azure AI services“ „Azure OpenAI“ oder „Azure AI services multi-service account“.   

Schnell und komfortabel ausprobieren kannst du deine Modelle für generative AI dann wahlweise im Azure AI Studio (auch „Azure KI Studio) oder im Azure OpenAI Studio.

Der Dienst „Azure OpenAI“ ist ein Azure-AI-Dienst für das Bereitstellen, Verwenden und Konfigurieren von Modellen, die von OpenAI entwickelt wurden. Wie oben erwähnt ist OpenAI das Unternehmen hinter ChatGPT und seit rund 2 Jahren Partner von Microsoft. ChatGPT ist eine der beliebtesten Anwendungen für Generative AI. Viele Nutzer (nicht nur Administratoren) kennen den beliebten Chat-Bot.

Du kannst mit Azure OpenAI Anwendungen entwickeln, die die leistungsstarken generativen KI-Modelle in Azure OpenAI verwenden und dabei wahlweise REST- oder sprachspezifische SDKs (z. B. für Python) nutzen. Zuvor erprobst du die verfügbaren Modelle entweder im Azure OpenAI-Studio oder im Azure AI-Studio.

Die ersten Schritte mit Azure OpenAI und dem OpenAI Studio habe ich dir bereits gezeigt. Nachdem ich dir auch die Grundprinzipien und ersten Konfigurationsschritte im neuen Azure AI – Studio erläutert habe, werden ich dir im nächsten Artikel dieser kleinen Serie zeigen, wie du erste Gehversuche mit generativer KI im neuen Azure AI Studio unternimmst.