Entsprechend geben zwei Drittel der Marketingverantwortlichen an, in den nächsten zwölf Monaten in Gen-AI-Lösungen investieren zu wollen. Gleichzeitig sehen sich rund 60 Prozent der Führungskräfte unter Druck, jetzt schnell entsprechende Projekte vorweisen zu können – gegenüber dem eigenen Vorstand und den Investor:innen. Die damit verbundene „Fear-of-Missing-Out“ war selten so greifbar im Markt – und treibt diesen weiter an.

Generative KI ist vor allem auch ein technologisches Thema, das sinnvolle Entscheidungen und Weichenstellungen in Bezug auf die eigene IT-Landschaft erfordert. Denn zu häufig erweist sich der vermeintlich werthaltige PoC doch nur als technische Fingerübung, die wenige Zeit später die Frage nach seiner Sinnhaftigkeit aufwirft.

Ein sinnvolles Vorgehen bewertet nüchtern die Chancen von Generativer KI im Hinblick auf den möglichen Wertbeitrag und die zahlreichen Umsetzungsmöglichkeiten und nimmt die folgenden sechs Herausforderungen ganzheitlich in den Blick.

Machbar ist vieles, aber nicht alles ist vernünftig. Entsprechend wichtig ist die Frage, welche Use Cases für die eigene Organisation Sinn ergeben und nachhaltig wertschaffend wirken. Welche die eigenen Gen-AI-Ziele sind, ist dabei nicht immer einfach zu beantworten. Soll das Team durch die Unterstützung von smarten KI-Assistenten bessere Entscheidungen in Bezug auf Kampagnen, Segmentierung oder Kundenreisen treffen? Sollen die eigenen Produkte und Services durch Generative KI auf das nächste Level gehoben werden? Oder sollen interne Prozesse automatisiert und damit effizienter werden? Oder alles auf einmal? (Spoiler Alert: Alles auf einmal ist meist keine gute Idee.)

Eine Ableitung sinnvoller Use Cases kann auf Basis von Prozessanalyse und Ideation oder aber durch die Auswahl aus bestehenden Marketing-spezifischen Use-Case-Bibliotheken erfolgen. Die Use-Case-Bewertung sollte neben den erwarteten Ergebnissen und Kosten auch wichtige Rahmenbedingungen wie Daten, Infrastruktur, Prozesse und Mitarbeiter:innen in den Blick nehmen.

Eine zentrale Weichenstellung ist die Entscheidung zwischen gekauften oder gemieteten Lösungen („Use“) und der Eigenentwicklung („Build“). Dabei ist zwischen fertigen SaaS-Lösung, die einen schnellen Einstieg bei minimaler Integrationskomplexität erlauben und dem Aufbau eigener Gen-AI-Tools bei maximaler Flexibilität in Bezug auf Modell und Infrastruktur, abzuwägen.

Gerade im Marketing-Umfeld sprießen Gen-AI-SaaS-Lösungen wie Pilze aus dem Boden. Damit sind viele der Basis-Use Cases bereits abgedeckt. Der „Use“-Ansatz ergibt Sinn, wenn solche Standard-Funktionalitäten ausreichen und keine erhöhten Anforderungen beispielsweise in Bezug auf Datenqualität und -sicherheit bestehen. Gerade im Bereich der Content-Generierung gibt es zahlreiche Tools für die automatische Erstellung von Texten, Bildern und Videos. Viele bieten auf Basis großer Foundational Models (FM) spezifische, für Marketinganforderung optimierte Workflows, die z.B. das Prompting erleichtern. Solche Tools lassen sich ohne große technische Integration nutzen und bieten den einfachsten Einstieg. Sie erfordern wenig bis keine ML/KI-Fähigkeiten im eigenen Unternehmen.

Je nach Branche und Use Case können fertige Tools jedoch zu stark limitieren, etwa wenn man Modelle mit eigenen Unternehmensdaten anreichern will, um echte Wettbewerbsvorteile zu erzielen. Teilweise bergen Standard-Lösungen für die eigene Anwendung auch zu hohe Risiken, etwa in Bezug auf ihre Genauigkeit oder die Einhaltung von Datenschutz- und Copyright-Regularien. So ist es für einen Customer Service-Chatbot unter Umständen tolerierbar, wenn hin und wieder eine ungenaue Antwort generiert wird. Für einen medizinischen Assistenten als Teil einer digital gestützten Therapie sind solche Ergebnisse wiederum untauglich.

Fällt die Entscheidung für „Build“, dann spielt die Auswahl des geeigneten Modells und der richtigen Deployment-Option eine entscheidende Rolle. Nur weil große Sprachmodelle wie GPT-4, Claude und Llama 2 die Schlagzeilen dominieren, sind sie nicht automatisch die beste Wahl für den eigenen Use Case. Es gilt, die optimale Balance zwischen Modelltyp, Genauigkeit, Geschwindigkeit und Kosten zu finden.

Zur Wahl stehen proprietäre KI-Modellen wie GPT-4 von OpenAI und Open-Source-Modelle, von denen z.B. bei der ML-Community Hugging Face mehr als 120.000 verfügbar sind. Bei kommerziellen Anbietern wie OpenAI kostet jede Anfrage an das Modell, die sogenannte Inferenz, einen festen Betrag basierend auf der Modellgröße und der Komplexität der Anfrage. Bei Open Source-Modellen fallen wiederum Kosten für etwaiges zusätzliches Training, Hosting- und Rechenleistung an. Entsprechend wichtig ist eine genaue Analyse der Kostenstruktur, um auf Basis der erwarteten Zahl an Inferenzen und deren Komplexität die wirtschaftlich sinnvollste Umsetzung zu erreichen. Auch die Wahl der richtigen Modellgröße spielt eine entscheidende Rolle. Gute ML-Expert:innen skalieren die Modellgröße sinnvoll auf den eigene Use Case und minimieren so die notwendige Rechenleistung.

Die eigene Infrastruktur und Informationsarchitektur, gerade auch in Bezug auf die Daten-Pipeline, spielt für KI-Anwendungen immer eine große Rolle. Grundsätzlich gilt gerade auch für Gen-AI-Modelle die Regel „Garbage in – Garbage out”: Die Qualität der Trainingsdaten ist entscheidend für die Qualität der Ergebnisse. Foundational Models zeichnen sich gerade dadurch aus, dass sie mit großen Datenmengen vortrainiert wurden. Dieses „Vortraining“ erlaubt es, sie für vielfältige Einsatzmöglichkeiten zu nutzen, ohne sie für jeden Use Case neu trainieren zu müssen. Entsprechend stellen sich viele Herausforderungen traditioneller ML-Ansätze in Bezug auf Datenhaltung und -aufbereitung für Nutzer:innen des Modells nicht unbedingt in gleichem Ausmaß. Dennoch bleiben die Themen Datenhaltung und -aufbereitung wichtig, gerade wenn Finetuning oder Kontexterweiterung zur weiteren Optimierung des Modells angedacht sind.

Generative KI-Modelle brauchen sehr viel Rechenleistung. Entsprechend stellt sich die Frage, wo und wie sie betrieben werden. Dies erfolgt in der Regel in der Cloud mit allen Deployment-Optionen, die eine moderne Hybrid-Cloud-Architektur bietet. Zwischen einem „Fully Public“-Ansatz mit extern gehostetem Modell und „Fully Private“-Deployment mit eigenem Modell auf eigener Infrastruktur ist alles möglich. Wichtig ist, vor dem Hintergrund der eigenen Sicherheitsanforderungen, die richtige Entscheidung gemeinsam mit KI- und Cloud-Expert:innen zu treffen.

Vertrauen ist die Grundlage für erfolgreiche KI-Anwendungen. Damit eine KI-Lösung erfolgreich im Arbeitsalltag bestehen kann, müssen Anwender:innen ihrer Ergebnisqualität und Datensicherheit vertrauen. Entsprechend sollten Gen-AI-Lösungen immer auch an den Anforderungen einer „ethischen“ KI ausgerichtet werden. Kriterien wie Erklärbarkeit, Fairness, Zuverlässigkeit, Transparenz und Datenschutz stellen hier wichtige Messgrößen dar. Um sicherzustellen, dass die Anforderungen erfüllt sind, können Frameworks genutzt werden, die man frühzeitig im Entwicklungsprozess berücksichtigen sollte, um später unangenehme Überraschungen zu vermeiden. Auch ist es ratsam, sich frühzeitig über Governance-Strukturen und Guidelines für die Nutzung von KI im eigenen Unternehmen Gedanken zu machen. Je früher dies geschieht, umso eher lassen sich fundamentale Fehler und ungewollte Risiken vermeiden.

Sobald eine KI-Lösung dauerhaft genutzt oder betrieben werden soll, stellt sich immer auch die Frage, wie man die Menschen sinnvoll befähigt, die mit einer KI-Lösung arbeiten sollen. Je mehr Verständnis für die Möglichkeiten, aber auch Begrenzungen von Gen-AI-Technologien geschaffen werden, umso kompetenter können die eigenen Mitarbeiter:innen die neuen Tools nutzen. Hier ist es wichtig, bei der Entwicklung nutzerzentrierte Methoden wie etwa das Design Thinking zum Einsatz zu bringen, denn so entstehen Lösungen, die an den Bedürfnissen der Anwender:innen ausgerichtet sind und deshalb schneller Akzeptanz finden. Ebenso sollte die Einführung eines KI-Systems von Veränderungskommunikation begleitet werden, in deren Rahmen sowohl Fertigkeiten wie etwa das Prompt-Engineering als auch Risiken aktueller Systeme wie Verzerrung oder Halluzinationen vermittelt werden. Auf diese Weise lassen sich sowohl Kompetenzen auf- als auch Ängste abbauen.

Werden diese sechs Herausforderungen ganzheitlich angegangen, dann steht einer produktiven Anwendung von Generativer KI im eigenen Unternehmen nichts mehr im Wege. Klar ist schon jetzt, dass Generative KI das Marketing in den kommenden Jahren in vielfacher Hinsicht verändern wird.

Dieser Beitrag wurde gemeinschaftlich verfasst von Jan Pilhar, Co-Lead Digital Advisory, und Sebastian Kubitschko, Director Tech Strategy and Alliances, von IBM iX.