Smart Content Report #18

Wie viel Substanz steckt im Hype um generative KI?

Wenn eine neue Technologie des Wegs kommt, ist die Hype-Maschine nicht weit. Oftmals liegt sie daneben. Die Blockchain etwa ist weiterhin nicht die von manchen erhoffte Revolution. Virtual Reality und Augmented Reality wiederum stehen seit Jahrzehnten ganz kurz vor dem Durchbruch. Und was Clubhouse ist (war?), haben sicher die meisten längst vergessen.

Warum lernen wir daraus nicht?

Weil der Hype eben manchmal auch recht hat – zumindest langfristig.

Man denke an das Internet. Die Dotcom-Spekulationsblase ist im Jahr 2000 zwar geplatzt. Aber wie wir alle wissen, hat das WWW dennoch unsere Welt grundlegend verändert.

Ein anderes Beispiel ist das iPhone: Anfangs verlacht und belächelt waren seine Verkaufszahlen winzig. Aber es ist letztlich zu einem Hit-Produkt geworden und zweifellos außerdem zum Vorbild des modernen Smartphones.

Wenn ich einen Hype für mich beurteile, kommt es mir immer auf eine Frage an: Kann ich mit einen neuen Technologie etwas Nützliches machen, das ich vorher nicht konnte oder zumindest nicht in dieser Form? Oder kann ich erkennen, dass es für andere Menschen oder für Organisationen hilfreich sein könnte?

Als ich 1997 das erste Mal online ging, wurde mir beispielsweise schnell klar, dass ich dort meine Zukunft sehe. Seit 1999 habe ich dann fast ausschließlich im Internet gearbeitet.

Als ich 2007 das erste iPhone als Testgerät hatte, habe ich hinterher sofort versucht, E-Mail und Internet auf meinem Nokia einzurichten (es war möglich, aber nervenaufreibend). 

Die Blockchain hingegen finde ich zwar technisch interessant und kann den Vorteil des dezentralen Ansatzes sehen. Aber es ist weiterhin schwer zu sagen, wie viele Anwendungsfälle es dafür gibt.

Und VR/AR findet mein innerer Nerd ebenfalls faszinierend. Ich kann mir zwar gut vorstellen, dass es langfristig eine wichtige Rolle spielen könnte. Aber heute sehe ich das zumindest noch nicht.

Bei KI zu guter Letzt war ich lange Zeit skeptisch. Schreibtools etwa fand ich viel zu schlecht, um sie ernsthaft für etwas zu verwenden – bis ChatGPT des Wegs kam.

Seitdem nutze ich KI fast täglich, auf jeden Fall mehrmals wöchentlich. Dabei helfen mir diese Tools, meine Arbeit besser zu machen, produktiver zu sein und etwas Neues zu lernen.

Ich verstehe, warum viele Menschen den Wert der heutigen KI-Anwendungen nicht sehen. Sie sind nicht für alle nützlich. Und ich glaube, dass vor allem Unternehmen enttäuscht sein werden, dass sie weiterhin diese unbequemen und teuren „Menschen“ brauchen und sie nicht einfach wegautomatisieren können.

Langfristig gehe ich dennoch davon aus, dass wir heute den Beginn von etwas sehen, das wir mit dem Internet und dem iPhone vergleichen werden – und nicht etwa mit der Blockchain. 

Mein wichtiger Tipp an dich: Glaube weder dem Hype noch den Ablehnern. Bilde dir deine eigene Meinung. Behalte dabei zugleich im Hinterkopf, dass du es hier mit einem brandneuen Werkzeug zu tun hast und es entsprechend einiges zu lernen gibt. Und vergiss zugleich nicht, dass der technische Fortschritt weitergeht.

Am Ende des Tages kann dir heute niemand mit Sicherheit sagen, wohin die Reise geht.

- Jan Tißler, UPLOAD Magazin

In eigener Sache

KI & Content: Individuelle Schulungen für Unternehmen

Erweitere dein Content-Team um passende KI-Tools für mehr Produktivität, Effizienz und Qualität.

In unseren individuellen Schulungen zeigen wir, wie dein Team ChatGPT, Bing Copilot, Perplexity und andere sinnvoll und zielgerichtet einsetzen kann und ermöglichen so die Integration in den produktiven Einsatz.

Wir stellen deinem Team alle wichtigen KI-Tools vor, üben den gekonnten und zielgerichteten Einsatz und erarbeiten effiziente Workflows für noch besseren Content.

TOOLS

Anthropic stellt Claude Enterprise vor

Anthropic hat seinen neuen Dienst Claude Enterprise vorgestellt. Dieser richtet sich speziell an Geschäftskunden und tritt in direkte Konkurrenz zu OpenAI's ChatGPT Enterprise. Claude Enterprise zeichnet sich durch ein beeindruckendes Kontextfenster von 500.000 Token aus, was die Verarbeitung großer Datenmengen in einem einzigen Durchgang ermöglicht.

Zu den Hauptfunktionen gehören zudem eine nahtlose GitHub-Integration für Entwicklerteams sowie umfangreiche Sicherheits- und Verwaltungsoptionen. Anthropic positioniert Claude nicht nur als Assistent, sondern als „virtuellen Mitarbeiter“, der komplexe Geschäftsprozesse unterstützen kann. Frühe Nutzer wie GitLab und North Highland berichten von Produktivitätssteigerungen von über 50%.

Obwohl Anthropic keine konkreten Preisangaben macht, wird Claude Enterprise als teurer als der Team-Plan (30 US-Dollar pro Monat und Nutzer) eingestuft. Branchenexperten sehen die Herausforderung für Anthropic darin, eine breite Akzeptanz zu erreichen, um die hohen Betriebskosten zu decken. 

Quellen: VentureBeat, TechCrunch

Google erweitert KI-Angebote

Google erweitert seine KI-Angebote mit mehreren Neuerungen. Nutzer des kostenpflichtigen Dienstes Gemini Advanced können nun etwa mit „Gems“ eigene KI-Assistenten für spezifische Aufgaben erstellen. Zudem wird das verbesserte Bildgenerierungsmodell Imagen 3 eingeführt, das auch die Erstellung von Menschenbildern mit entsprechenden Sicherheitsvorkehrungen ermöglicht.

Parallel dazu hat Google neue experimentelle Versionen seiner Gemini-Modelle veröffentlicht. Diese zeigen laut Unternehmensangaben deutliche Leistungsverbesserungen in Bereichen wie Programmierung und komplexen Aufgabenstellungen. Die Modelle sind für Entwickler über Google AI Studio und die Gemini API kostenlos testbar.

Darüber hinaus integriert Google seine KI-Technologie in bestehende Produkte. Android-Nutzer können beispielsweise in der Gmail-App nun direkt mit Gemini über ihre E-Mails kommunizieren. Im Chrome-Browser wurde Gemini in die Adressleiste eingebunden, sodass Nutzer durch Eingabe von „@gemini“ gefolgt von einer Frage direkt mit der KI interagieren.

Quellen: 9to5Google, VentureBeat, Bloomberg, VentureBeat, TechCrunch, VentureBeat

Weitere Tools in aller Kürze

VIDEO:

Forscher der Tsinghua Universität und Zhipu AI haben CogVideoX vorgestellt, ein frei verfügbares KI-Modell für Videos. Wie Michael Nuñez für VentureBeat berichtet, könnte diese Technologie die Landschaft für KI-Videotools grundlegend verändern. CogVideoX erzeugt qualitativ hochwertige Videos von bis zu sechs Sekunden Länge und übertrifft dabei laut den Entwicklern bekannte Konkurrenten. Das Besondere: Der Quellcode und die Modellgewichte sind öffentlich zugänglich, was die Technologie für Entwickler weltweit nutzbar macht. 

Ein neuer KI-Videogenerator namens MiniMax soll besonders realistische Videos von Menschen erzeugen können. Laut Firmengründer Yan Junjie übertrifft es die Leistung des Konkurrenten Runway. Ryan Morrison testete das Tool für Tom's Guide und fand es zwar beeindruckend, aber nicht ganz so revolutionär wie angepriesen. MiniMax unterstützt derzeit Videos in 720p-Auflösung mit 25 Bildern pro Sekunde und einer Länge von sechs Sekunden. Eine Erweiterung auf zehn Sekunden ist geplant. Morrison sieht MiniMax auf Augenhöhe mit Dream Machine von Luma Labs, aber noch hinter Runway Gen-3 und dem chinesischen Konkurrenten Kling.

Die neueste Version des KI-Videogenerators von Luma AI, Dream Machine 1.6, bietet nun 12 verschiedene Kamerabewegungen, die Nutzer bei der Texteingabe auswählen können. Dazu gehören etwa „Pull Out“, „Pan Left“ oder „Orbit Right“. Das berichtet Carl Franzen für VentureBeat. Diese neuen Kontrollen ermöglichen eine präzisere Steuerung der generierten Videos. Erste Reaktionen von KI-Video-Erstellern sind sehr positiv. Sie loben die Verbesserungen bei der Dynamik und Qualität der Bewegungen. Die Neuerung steht in Konkurrenz zu ähnlichen Funktionen anderer Anbieter wie Runway. 

Alibaba Cloud hat mit Qwen2-VL ein neues KI-Modell zur Analyse von Bildern und Videos vorgestellt. Das Modell kann Videos von über 20 Minuten Länge analysieren und versteht mehrere Sprachen. Es kommt in drei Größen, wobei die beiden kleineren Varianten frei verfügbar sind. Laut Alibaba übertrifft Qwen2-VL in Benchmarks führende Modelle anderer Tech-Giganten. Zu den Fähigkeiten gehören die Analyse von Handschriften, die Beschreibung von Objekten in Bildern und die Echtzeit-Analyse von Videos. 

BILDER:

Die australische Plattform NightCafe, gegründet von Angus und Elle Russell, hat sich zu einem der führenden Anbieter für KI-generierte Kunst entwickelt. Wie Kyle Wiggers für TechCrunch berichtet, nutzen über 25 Millionen User die Tools von NightCafe und haben damit fast eine Milliarde Bilder erstellt. Das profitable Unternehmen bietet eine Vielzahl von KI-Modellen zur Bilderstellung an und setzt dabei auf eine starke Community. 

Nvidia hat ein neues KI-Modell namens „Eagle“ vorgestellt, das die Fähigkeiten von Maschinen im Verständnis und der Verarbeitung visueller Informationen offenbar deutlich verbessert. Wie Michael Nuñez für VentureBeat berichtet, kann Eagle Bilder in hoher Auflösung von bis zu 1024x1024 Pixeln analysieren und nutzt mehrere spezialisierte Bildverarbeitungskomponenten. Dies ermöglicht eine genauere Texterkennung und ein umfassenderes Bildverständnis. Das Modell zeigt in Benchmarks überlegene Leistungen gegenüber anderen führenden multimodalen KI-Systemen. Nvidia hat den Code und die Modellgewichte als Open Source veröffentlicht. Potenzielle Anwendungsgebiete für Eagle reichen von der Dokumentenverarbeitung über E-Commerce bis hin zur Bildung.

3D:

Das Startup Meshy hat seine neueste KI-gestützte 3D-Modellierungssoftware Meshy-4 veröffentlicht. Wie VentureBeat berichtet, bietet die neue Version verbesserte Netzgeometrie und einen überarbeiteten Workflow. Meshy-4 erzeugt demnach sauberere Oberflächen und verbesserte geometrische Details bei KI-generierten 3D-Modellen. Eine neue „Retry“-Option ermöglicht schnelle Neugenerierungen unbefriedigender Ergebnisse. 

ASSISTENTEN:

Der Suchmaschinenanbieter Kagi hat einen neuen KI-Assistenten vorgestellt. Wie das Unternehmen in einem Blogbeitrag mitteilt, integriert der „Assistant by Kagi“ verschiedene KI-Modelle führender Anbieter und kann auf die Suchergebnisse von Kagi zugreifen. Nutzer können eigene Assistenten mit individuellen Anweisungen erstellen. Besonderes Augenmerk legt das Unternehmen auf den Datenschutz: Konversationen werden standardmäßig nach 24 Stunden gelöscht und nicht zum Training der Modelle verwendet. 

Die Washington Post berichtet über erste Meinungen zu OpenAIs Suchmaschinen-Prototyp SearchGPT. Das KI-gestützte Tool zeigt demnachvielversprechende Ansätze, kann Google aber nicht ersetzen. SearchGPT liefert prägnante Antworten mit klar gekennzeichneten Quellen, hat jedoch Schwierigkeiten bei Shopping- und lokalen Suchanfragen. Gelegentlich präsentiert es auch falsche oder „halluzinierte“ Informationen. Laut OpenAI-Sprecherin Kayla Wood wird das Unternehmen die besten Funktionen in ChatGPT integrieren. Trotz einiger positiver Rückmeldungen von Testern sehen Experten noch erheblichen Verbesserungsbedarf, bevor SearchGPT eine ernsthafte Bedrohung für Googles Suchgeschäft darstellen könnte.

Google Meet führt eine neue KI-gestützte Funktion zur automatischen Erstellung von Besprechungsnotizen ein. Wie Joanna Nelius für The Verge berichtet, ist das Feature „take notes for me“ ab sofort für ausgewählte Google Workspace-Kunden verfügbar. Es fasst den Inhalt von Meetings zusammen und speichert die Notizen in einem Google Doc, das anschließend mit den Teilnehmern geteilt wird. Aktuell funktioniert die Funktion nur für gesprochenes Englisch. Die vollständige Einführung für alle berechtigten Nutzer ist bis zum 10. September geplant.

Das Startup Spotter hat eine neue KI-gestützte Kreativsuite für YouTuber vorgestellt. Spotter Studio soll sie bei der Ideenfindung, Thumbnail-Erstellung und Projektplanung unterstützen. Wie Lauren Forristal für TechCrunch berichtet, analysiert das Tool Milliarden öffentlicher YouTube-Videos, um personalisierte Vorschläge zu generieren. Dabei greift es auch auf die bisherigen Videos des Nutzers zurück. Laut Spotter-CEO Aaron DeBevoise werden die Empfehlungen individuell auf jeden Creator zugeschnitten. Die Suite umfasst Features wie „Brainstorm“ für Ideengenerierung und „Outliers“ zur Analyse erfolgreicher Videos ähnlicher Creator. 

DEVELOPER:

OpenAI hat die Kontrollen in seiner Assistants API verbessert, um Entwicklern mehr Möglichkeiten bei der Erstellung von KI-Assistenten zu geben. Die Neuerungen betreffen vor allem die Dateisuche und ermöglichen eine präzisere Steuerung der Informationsauswahl für Antworten. Wie VentureBeat berichtet, können Entwickler nun die Suchergebnisse einsehen und das Ranking der Ergebnisse anpassen. Die Assistants API, die seit November 2023 verfügbar ist, soll ein Schritt in Richtung autonomer KI-Agenten sein. Sie erlaubt Entwicklern, OpenAIs Modelle mit spezifischen Anweisungen für verschiedene Anwendungen zu nutzen.

Google hat eine „Prompt Gallery“ in seiner „AI Studio“-Plattform eingeführt. Sie bietet eine Vielzahl vorgefertigter Prompts, die die Fähigkeiten von Googles Gemini-Modellen demonstrieren. Sie reichen von praktischen Werkzeugen wie einem Rezeptgenerator bis hin zu technischen Anwendungen wie einem Zeitkomplexitätsanalysetool für Functions.

Accenture und AWS haben eine neue Plattform für „verantwortungsvolle KI“ eingeführt.  Sie führt Nutzer etwa durch eine Bestandsaufnahme der KI-Anwendungen eines Unternehmens, bewertet dessen KI-Reife und ermöglicht die Einreichung von Anwendungen zur Compliance-Prüfung. Die Plattform ist hauptsächlich für Unternehmen gedacht, die AWS für KI-Dienste nutzen, und kann individuell angepasst werden.

Forscher von DeepMind und der University of California in Berkeley haben Wege gefunden, die Leistung großer Sprachmodelle (LLMs) durch optimierte Nutzung von Rechenressourcen während der Inferenz zu verbessern. Das geht aus einer neuen Studie hervor, die Ben Dickson für VentureBeat zusammengefasst hat. Die Wissenschaftler untersuchten verschiedene Strategien, um die Genauigkeit von LLM-Antworten zu erhöhen, ohne die Modelle zu vergrößern oder neu zu trainieren. Für einfachere Aufgaben erwies sich die schrittweise Verfeinerung der Antworten als effektiv, während bei komplexeren Problemen parallele Antwortgenerierung oder Baumsuche besser funktionierten. Die Ergebnisse zeigen, dass kleinere Modelle mit zusätzlicher Inferenz-Rechenzeit in vielen Fällen ähnlich gute Leistungen erbringen können wie deutlich größere vortrainierte Modelle.

Nous Research hat eine Technologie namens DisTrO vorgestellt, die die Effizienz beim Training von KI-Modellen um das 10.000-fache steigern soll. Das berichtet VentureBeat. Die neue Methode reduziert die Datenmenge drastisch, die zwischen GPUs während des Trainings ausgetauscht werden muss. Dadurch ließen sich leistungsstarke KI-Modelle auch außerhalb großer Unternehmen trainieren. 

Stability AI bringt drei neue Bild-KI-Modelle auf die Amazon Bedrock-Plattform. Wie Sean Michael Kerner für VentureBeat berichtet, handelt es sich dabei um Stable Image Ultra, Stable Diffusion 3 Large und Stable Image Core. Die Erweiterung des Angebots auf Amazon Bedrock soll Unternehmen mehr Auswahlmöglichkeiten für ihre spezifischen Aufgaben bieten. 

Cerebras hat eine neue KI-Inferenzlösung vorgestellt, die laut Unternehmen die schnellste der Welt ist. Sie liefert demnach für das Sprachmodell Llama 3.1 8B 1.800 Token pro Sekunde und für Llama 3.1 70B 450 Token pro Sekunde – 20-mal schneller als GPU-basierte Lösungen. Die Preise liegen bei 10 Cent pro Million Token für Llama 3.1 8B und 60 Cent für Llama 3.1 70B. Entwickler können ab sofort per API darauf zugreifen.

HARDWARE:

Ein neues AI-Wearable namens NotePin soll Nutzern helfen, Gespräche und Notizen aufzuzeichnen und zu verarbeiten. Das von Plaud entwickelte Gerät kann als Anhänger, Anstecker oder am Handgelenk getragen werden. Es nimmt bis zu 20 Stunden mit einer Batterieladung auf und bietet Funktionen wie Transkription und Zusammenfassung. Dabei muss er manuell aktiviert werden, zeichnet also nicht etwa alles automatisch auf. Der NotePin ist für 169 US-Dollar erhältlich. Zusätzliche KI-Funktionen kosten 79 Dollar pro Jahr. 

Nvidia setzt bei seinen neuesten KI-Chips auf Größe und Leistung, stößt dabei aber an Grenzen. Wie das Wall Street Journal berichtet, sind die neuen Blackwell-Chips etwa doppelt so groß wie ihre Vorgänger und bieten 2,6 Mal mehr Transistoren. Die Herstellung dieser komplexen Chips bereitet jedoch Probleme. Laut Nvidia-CEO Jensen Huang führten Fertigungsschwierigkeiten zu geringeren Gewinnmargen und einer Rückstellung von 908 Millionen US-Dollar. Experten sehen die Hauptursache in der Größe und dem neuen Design der Chips, die aus mehreren Komponenten bestehen. Die präzise Fertigung und Hitzeentwicklung stellen dabei besondere Herausforderungen dar. Trotz dieser Hürden hält Nvidia an seiner Strategie fest, jährlich eine neue Chip-Generation zu präsentieren.

Intel präsentiert seine ersten Lunar Lake Laptop-CPUs der Core Ultra 200V-Serie. Die neuen Prozessoren sollen laut Intel in fast allen Bereichen besser sein als die Konkurrenz von Qualcomm und AMD. Sie versprechen die schnellste CPU-Leistung, die beste integrierte GPU und die beste KI-Performance. Besonders hervorgehoben wird die verbesserte Energieeffizienz, die zu deutlich längeren Akkulaufzeiten führen soll. Intel behauptet auch, in Spielen die Konkurrenz zu übertreffen und mit KI-Anwendungen deutlich schneller zu sein. Die neuen Chips sind für dünne Laptops mit bis zu 32 GB RAM konzipiert und verfügen über acht CPU-Kerne. Ab 24. September sollen die ersten Laptops mit den neuen Prozessoren auf den Markt kommen.

Microsoft erweitert die Verfügbarkeit von Copilot+ Funktionen auf PCs mit neuen Intel- und AMD-Prozessoren ab November. Wie das Unternehmen jetzt bekannt gab, werden Intels 200V-Prozessoren und AMDs Ryzen AI 300 Serie die KI-Fähigkeiten von Copilot+ unterstützen. Zu den Funktionen gehören Live-Untertitel, KI-gestützte Bildbearbeitung in Paint und Windows Studio Effects. 

FORSCHUNG:

Forscher bei Google DeepMind haben eine neue Methode namens GenRM entwickelt, um die Genauigkeit von großen Sprachmodellen zu verbessern. Das berichtet VentureBeat. GenRM nutzt die Modelle, um ihren eigenen Output zu überprüfen. Im Gegensatz zu herkömmlichen Verfahren kann GenRM komplexe Denkprozesse vor der Verifizierung durchführen. In Tests übertraf die Methode andere Ansätze deutlich, besonders bei Aufgaben, die logisches Denken erfordern. 

Wissenschaftler von Meta und der University of Southern California haben eine neue Technik namens Transfusion entwickelt, die es einem einzelnen KI-Modell ermöglicht, sowohl Text als auch Bilder zu verarbeiten. Das berichtet VentureBeat. Transfusion überwindet bisherige Herausforderungen multimodaler Modelle, indem es Sprachmodellierung für Text und Diffusion für Bilder in einer einheitlichen Architektur kombiniert. In Tests übertraf ein 7-Milliarden-Parameter-Modell basierend auf Transfusion bestehende Ansätze wie Metas Chameleon bei verschiedenen Aufgaben wie Text-zu-Bild-Generierung und Bildbeschreibung – und das mit deutlich geringerem Rechenaufwand. 

Google-Forscher haben ein neuronales Netzwerk namens GameNGen geschaffen, das in der Lage ist, den Ego-Shooter Doom in Echtzeit zu simulieren – und das ohne herkömmliche Spiele-Engine. Wie VentureBeat berichtet, kann das System auf einem einzigen Chip 20 Bilder pro Sekunde erzeugen, wobei jedes Bild von einem Diffusionsmodell vorhergesagt wird. Die Forscher bezeichnen GameNGen als die erste vollständig von einem neuronalen Modell angetriebene Spiele-Engine, die eine Echtzeit-Interaktion mit einer komplexen Umgebung ermöglicht. 

Das KI-Unternehmen Magic hat ein Modell mit einem Kontextfenster von 100 Millionen Token entwickelt. Wie Magic in einem Forschungsupdate mitteilte, entspricht dies etwa 10 Millionen Codezeilen oder 750 Romanen. Das Modell namens LTM-2-mini ist laut Magic deutlich effizienter als vergleichbare Systeme. Für die Weiterentwicklung kooperiert Magic nun mit Google Cloud und baut zwei neue Supercomputer. Außerdem konnte das Unternehmen 465 Millionen Dollar an Investitionen einwerben, darunter 320 Millionen von namhaften Investoren wie Eric Schmidt und Sequoia. Magic plant, seine Technologie vor allem für die Softwareentwicklung einzusetzen.

News

OpenAIs Finanzierungsrunde bewertet das Startup auf 100 Milliarden US-Dollar

Das ChatGPT-Unternehmen OpenAI steht vor einer bedeutenden Finanzierungsrunde. Wie aus Branchenkreisen verlautet, soll die Bewertung des Startups dabei auf über 100 Milliarden Dollar steigen. Als Hauptinvestor wird die Venture-Capital-Firma Thrive Capital genannt, die rund eine Milliarde Dollar beisteuern will. Auch der bisherige Großinvestor Microsoft beteiligt sich erneut.

Besonders interessant: Die Tech-Giganten Apple und Nvidia verhandeln Berichten zufolge ebenfalls über einen Einstieg bei OpenAI. Für Apple wäre es ein ungewöhnlicher Schritt, da das Unternehmen selten in Startups investiert. Nvidia als führender KI-Chiphersteller ist bereits ein wichtiger Partner von OpenAI.

Die Investoren setzen auf das rasante Wachstum von OpenAI. Nach Unternehmensangaben hat sich die Zahl der wöchentlichen ChatGPT-Nutzer innerhalb eines Jahres auf 200 Millionen verdoppelt. Zudem nutzen inzwischen 92 Prozent der Fortune 500-Unternehmen OpenAI-Produkte. Die Zahl der zahlenden Geschäftskunden für ChatGPT stieg auf über eine Million.

Quellen: Wall Street Journal, Bloomberg, Wall Street Journal, Bloomberg, Axios, VentureBeat

KI-Sicherheit auf der Tagesordnung

Führende Nationen und KI-Unternehmen verstärken ihre Bemühungen um die Sicherheit künstlicher Intelligenz. So haben die USA, Großbritannien und die EU einen Vertrag des Europarats zur KI-Sicherheit unterzeichnet. Dieser soll einen rechtlichen Rahmen für den gesamten Lebenszyklus von KI-Systemen schaffen und dabei Innovationen fördern und zugleich Risiken eindämmen.

Parallel dazu haben OpenAI und Anthropic (Claude) Vereinbarungen mit dem US-amerikanischen KI-Sicherheitsinstitut getroffen. Sie werden dem Institut Zugang zu ihren neuen KI-Modellen gewähren – sowohl vor als auch nach der öffentlichen Freigabe. Ziel ist es, Fähigkeiten und Risiken zu bewerten sowie Methoden zur Risikominderung zu entwickeln. Die Unternehmen sehen darin einen wichtigen Schritt zur verantwortungsvollen Entwicklung von KI.

Google wiederum verschärft die Sicherheitsmaßnahmen für seine KI-Produkte im Vorfeld der US-Präsidentschaftswahl.Sie werden nicht auf wahlbezogene Themen reagieren. Wie Aisha Malik für TechCrunch berichtet, werden die Beschränkungen auf Search AI Overviews, YouTube AI-generierte Zusammenfassungen und Bilderzeugung in Gemini ausgeweitet. Google begründet den Schritt mit der Fehleranfälligkeit der neuen Technologie.

In Kalifornien steht derweil ein Gesetzentwurf zur Debatte, der die Kennzeichnung KI-generierter Inhalte vorschreibt. OpenAI, Entwickler von ChatGPT, unterstützt diesen Vorstoß. Das Unternehmen betont die Bedeutung von Transparenz, besonders in einem Wahljahr, in dem KI-generierte Inhalte eine zunehmende Rolle spielen könnten.

Meta erfolgreich mit Fokus auf offen verfügbare KI-Modelle

Meta vermeldet einen deutlichen Anstieg bei der Nutzung seiner Llama-KI-Modelle. Laut Unternehmensangaben nähern sich die Downloads auf der Plattform Hugging Face der 350-Millionen-Marke – eine Verzehnfachung im Vergleich zum Vorjahr. Allein im letzten Monat wurden über 20 Millionen Downloads registriert, was auf ein wachsendes Interesse an frei verfügbaren KI-Lösungen hindeutet („Open Weights“).

Große Unternehmen wie AT&T, Spotify und Goldman Sachs setzen Llama-Modelle für interne und externe Anwendungen ein. Gleichzeitig meldet Meta Erfolge bei seinem KI-Chatbot, der in hauseigene Dienste wie WhatsApp, Instagram und Facebook integriert ist: Mit 400 Millionen monatlich aktiven Nutzern nähert sich der Chatbot der Nutzerzahl von ChatGPT an.

Der Erfolg von Metas offener Strategie setzt etablierte Anbieter geschlossener KI-Modelle unter Druck. Experten beobachten zugleich, dass diese Angebote in Bezug auf Leistung und Kosteneffizienz aufholen. 

Quellen: VentureBeat, Techopedia, Reuters

Weitere News in aller Kürze

Todd Feathers hat sich für Gizmodo den GPT-Store von OpenAI angesehen und dabei etliche problematische Angebote entdeckt. Demnach verstoßen  mehr als 100 angebotene GPTs gegen die Richtlinien des Unternehmens. Darunter finden sich Tools zur Erstellung von KI-generierter Pornografie, Hilfsmittel zum Schummeln bei Prüfungen sowie Chatbots, die medizinische und rechtliche Beratung anbieten. Viele dieser GPTs wurden tausendfach genutzt. OpenAI erklärte, gegen Verstöße vorzugehen und Maßnahmen zur Überprüfung eingeführt zu haben. Experten sehen die Inhaltsmoderation als anhaltende Herausforderung für die Plattform.

Die Suchmaschine Perplexity AI will offenbar ab dem vierten Quartal Werbung einführen. Laut einer von CNBC eingesehenen Präsentation wirbt das Unternehmen mit über zwei Millionen App-Downloads und mehr als 230 Millionen monatlichen Suchanfragen. Perplexity plant, Anzeigen nach dem CPM-Modell (Kosten pro tausend Impressionen) zu verkaufen, wobei die Preise über 50 Dollar liegen sollen. Das Startup, das kürzlich mit Plagiatsvorwürfen konfrontiert war, hat Änderungen an seinen Quellenangaben vorgenommen und ein Umsatzbeteiligungsmodell für Verlage gestartet. Mit der Einführung von Werbung positioniert sich Perplexity als Konkurrent zu etablierten Suchmaschinen wie Google im Bereich der KI-gestützten Suche. Quellen: CNBC, Digiday

Microsoft plant für den 16. September ein spezielles Event zur nächsten Phase seiner KI-Assistenten Copilot. Wie Tom Warren von The Verge berichtet, werden CEO Satya Nadella und KI-Vizepräsident Jared Spataro die Veranstaltung auf LinkedIn leiten. Im Fokus stehen neue Funktionen für Microsoft 365 und möglicherweise auch für Copilot Pro. Erwartet wird zudem eine Umbenennung der Copilot-Produkte. 

Laut einer neuen Befragung bevorzugen 71% der Führungskräfte Bewerber mit KI-Kenntnissen gegenüber solchen mit Branchenerfahrung. Das geht aus dem Annual Work Trend Index 2024 von Microsoft und LinkedIn hervor, über den Amanda Kavanagh für VentureBeat berichtet.  Trotz dieser Präferenz planen nur 25% der Arbeitgeber, in diesem Jahr KI-Schulungen anzubieten. Viele Arbeitnehmer nehmen die Weiterbildung selbst in die Hand: 75% nutzen bereits KI am Arbeitsplatz, wobei 78% eigene Tools mitbringen. Gleichzeitig befürchten 45% der Befragten, dass KI ihren Arbeitsplatz ersetzen könnte. 

Jonas Andrulis, CEO des deutschen KI-Startups Aleph Alpha, hat eine Strategieänderung angekündigt, wie Mark Bergen für Bloomberg berichtet. Statt weiterhin eigene große Sprachmodelle zu entwickeln, konzentriert sich das Unternehmen nun auf PhaidraAI, ein Betriebssystem für generative KI. Damit können Kunden KI-Chatbots und -Tools verschiedener Anbieter nutzen. Als Gründe für den Kurswechsel nennt Andrulis die Konsolidierung der Branche und hohe Kosten für die Entwicklung führender KI-Modelle. Aleph Alpha galt mit einer Finanzierung von über 500 Millionen Euro als europäische Hoffnung in der KI-Entwicklung. Nun sieht sich das Startup mit Herausforderungen wie langsamen Entscheidungsprozessen und hohem Erwartungsdruck konfrontiert. Das Unternehmen fokussiert sich vorerst auf den deutschen Markt und hat laut Andrulis derzeit 30 bis 40 Kunden.

Laut Reuters hat das neu gegründete KI-Unternehmen Safe Superintelligence (SSI) eine Milliarde US-Dollar Startkapital eingesammelt. SSI wurde von Ilya Sutskever mitgegründet, dem ehemaligen Chefwissenschaftler von OpenAI. Das Unternehmen will sichere KI-Systeme entwickeln, die menschliche Fähigkeiten weit übertreffen. Mit dem Geld sollen Rechenleistung gekauft und Top-Talente angeworben werden. Zu den Investoren gehören namhafte Risikokapitalgeber wie Andreessen Horowitz und Sequoia Capital. SSI plant, sich zunächst auf Forschung und Entwicklung zu konzentrieren, bevor ein Produkt auf den Markt kommt. Das Unternehmen hat derzeit 10 Mitarbeitende sowie Büros in Kalifornien und Israel.

Das japanische KI-Startup Sakana AI hat in einer Serie-A-Finanzierungsrunde 100 Millionen Dollar eingesammelt, wie Shubham Sharma für VentureBeat berichtet. Sakana AI, gegründet von ehemaligen Google-Forschern und einem Diplomaten, will mit dem Kapital und der Unterstützung von Nvidia zu einem weltweit führenden KI-Forschungslabor aufsteigen und dabei sowohl fortschrittliche als auch energieeffiziente KI-Technologien für Japan entwickeln.

Das KI-Startup You.com hat in einer Series-B-Finanzierungsrunde 50 Millionen Dollar eingesammelt. Das berichtet Michael Nuñez für VentureBeat. Angeführt wurde die Runde von Georgian, mit Beteiligung von Nvidia und Salesforce Ventures. You.com entwickelt KI-gestützte „Produktivitäts-Engines“ für Unternehmen. Das 2021 von Richard Socher gegründete Unternehmen verzeichnet ein starkes Wachstum und bediente nach eigenen Angaben seit Launch bereits über eine Milliarde Anfragen. You.com bietet Zugang zu mehreren KI-Modellen über eine einzige Plattform und legt besonderen Wert auf Genauigkeit. Das Unternehmen führt neue Funktionen wie einen „Research Assistant“ und „Multiplayer KI“ für Teamarbeit ein. CEO Socher prognostiziert, dass es bis 2025 „mehr KI-Agenten als Menschen“ im Internet geben werde.

Der KI-Entwickler Anthropic hat die Systemprompts für seine Claude-Modelle veröffentlicht und plant, dies regelmäßig zu tun. Die nun veröffentlichten Prompts enthalten detaillierte Anweisungen zu Fähigkeiten und Verhaltensweisen der Modelle. Sie verbieten beispielsweise Gesichtserkennung und geben Persönlichkeitsmerkmale vor. Anthropic setzt damit neue Transparenzstandards in der KI-Branche. Allerdings fehlten zunächst die Prompts für die neue Artifacts-Funktion. Anthropic will diese in den kommenden Wochen nachreichen. Die Veröffentlichung der Systemprompts gibt Einblicke in die Funktionsweise der KI-Modelle, ohne jedoch den vollständigen Quellcode offenzulegen. Quellen: TechCrunch, VentureBeat, VentureBeat

YouTube entwickelt neue KI-Erkennungswerkzeuge zum Schutz von Künstlern und Kreativen, wie Sarah Perez für TechCrunch berichtet. Das Unternehmen plant, sein bestehendes Content-ID-System zu erweitern, um etwa KI-generierte Gesangsstimmen zu identifizieren. Zudem arbeitet YouTube an Technologien zur Erkennung von KI-simulierten Gesichtern. Ein weiterer Fokus liegt auf der Entwicklung von Lösungen, die Kreativen mehr Kontrolle darüber geben sollen, wie ihre Inhalte für KI-Training genutzt werden. Ab Anfang nächsten Jahres will YouTube die Technologie zur Erkennung synthetischer Gesangsstimmen mit Partnern testen. Auch ein System zum Schutz bekannter Persönlichkeiten vor unautorisierten KI-generierten Darstellungen ist in Arbeit. 

Die Organisation National Novel Writing Month (NaNoWriMo) hat mit ihrer neutralen Haltung zu KI beim Schreiben für Kontroversen gesorgt. Carl Franzen berichtet für VentureBeat, dass die 25 Jahre alte Non-Profit-Organisation KI als Schreibwerkzeug akzeptiert. NaNoWriMo begründet dies damit, dass eine Ablehnung von KI klassistisch und diskriminierend sein könnte. Diese Entscheidung stößt auf gemischte Reaktionen. Autoren wie Daniel José Older und Maureen Johnson kritisieren die Position scharf und sind aus dem Vorstand zurückgetreten. NaNoWriMo verteidigt seine Haltung und betont, dass es allen Schreibenden die Wahl ihrer Methoden überlassen möchte.

Amazon plant, seine überarbeitete Version von Alexa im Oktober vor der US-Weihnachtssaison zu veröffentlichen. Die neue Alexa soll hauptsächlich auf den KI-Modellen von Anthropic basieren, da Amazons eigene KI-Modelle nicht die nötige Performance ermöglichen. Für die verbesserte Version will Amazon zwischen 5 und 10 US-Dollar pro Monat verlangen, während die klassische Alexa weiterhin kostenlos bleibt. Die Entscheidung, auf externe Technologie zurückzugreifen, ist ungewöhnlich für Amazon. Mit der Überarbeitung reagiert das Unternehmen auf den Wettbewerbsdruck durch ChatGPT und andere KI-Assistenten. Quellen: Washington Post, Reuters

Lesetipps

Warum KI keine echten Kunstwerke erschaffen wird

Ted Chiang, bekannter Science-Fiction-Autor, argumentiert in einem Beitrag für das Magazin „The New Yorker“, dass künstliche Intelligenz nicht in der Lage sein wird, echte Kunst zu erschaffen. Er betont, dass Kunst das Ergebnis zahlreicher bewusster Entscheidungen ist, die KI-Systeme nicht treffen können. Laut Chiang fehlt es KI-generierten Werken an der Intention zu kommunizieren, die für echte Sprache und Kunst wesentlich ist.

Er warnt davor, dass der verstärkte Einsatz von KI zur Texterstellung die Anforderungen an die Textproduktion erhöhen und zu einer Abwertung menschlicher Kommunikation führen könnte. Chiang argumentiert weiterhin, dass KI zwar hochspezialisierte Fähigkeiten entwickeln kann, ihr aber die menschliche Intelligenz fehlt, sich effizient neue Fertigkeiten anzueignen.

Er sieht KI daher als eine „entmenschlichende Technologie“ („dehumanizing technology“), die die Menge an Intention in der Welt reduziere.

10 Millionen US-Dollar mit KI-Musik ergaunert

Die US-Staatsanwaltschaft hat Anklage gegen den 52-jährigen Michael Smith aus North Carolina erhoben. Ihm wird vorgeworfen, mithilfe künstlicher Intelligenz hunderttausende gefälschte Songs erstellt und diese über Streaming-Dienste verbreitet zu haben. Durch den massenhaften Abruf dieser Titel über programmierte Bots soll er rund 10 Millionen Dollar an Tantiemen erschlichen haben.

Smith nutzte laut Anklage zunächst tausende gefälschte Nutzerkonten, um seine selbst produzierten Songs abzuspielen. Später setzte er KI-Systeme ein, um wöchentlich tausende neuer Titel zu generieren. Diese wurden unter Künstlernamen wie „Callous Post“ oder „Calorie Screams“ auf Plattformen wie Spotify und Apple Music hochgeladen. Durch die Verteilung auf viele Titel blieb der Betrug lange unentdeckt.

Der Fall wirft ein Schlaglicht auf die Herausforderungen, vor denen Streaming-Dienste angesichts KI-generierter Musik stehen. Experten fordern nun eine klare Kennzeichnungspflicht für KI-Inhalte sowie strengere Kontrollen. Einige schlagen vor, Musik aus nicht lizenzierten KI-Systemen ganz zu verbieten oder bei Empfehlungen und Tantiemen-Berechnungen niedriger zu gewichten. Die Plattformen stehen unter Druck, bald Regeln für den Umgang mit KI-Musik festzulegen.

Weitere Lesetipps in aller Kürze

Marcus Merrell, ein leitender technischer Berater bei Sauce Labs, warnt in einem Beitrag für VentureBeat vor überzogenen Erwartungen an generative KI. Er betont, dass KI-Tools wie ChatGPT zwar nützlich, aber noch unzuverlässig seien. Merrell identifiziert drei unlösbare Probleme: Halluzinationen, nicht-deterministische Ausgaben und hohe Betriebskosten. Trotz dieser Einschränkungen sieht er Potenzial für Produktivitätssteigerungen in bestimmten Bereichen. Der Autor kritisiert jedoch die übertriebenen Investitionen und Erwartungen an KI. Er plädiert für einen realistischeren Blick auf die Technologie und ihre derzeitigen Grenzen.

Gary Grossman, EVP der Technologieabteilung bei Edelman, diskutiert in einem Beitrag die möglichen Auswirkungen von KI auf die Arbeitswelt. Er stellt die These in Frage, dass KI ähnliche Effekte wie frühere technologische Revolutionen haben wird. Grossman argumentiert, dass KI durch die Auslagerung kognitiver Aufgaben möglicherweise disruptiver sein könnte als bisherige Innovationen. Er verweist auf Studien, die zeigen, dass KI bereits jetzt die Produktivität in verschiedenen Branchen steigert und teilweise sogar Arbeitsplätze ersetzt. Gleichzeitig entstehen neue Berufsfelder im KI-Bereich. Grossman betont, dass die genauen Auswirkungen auf den Arbeitsmarkt noch ungewiss sind und warnt davor, vergangene Erfahrungen einfach auf die KI-Revolution zu übertragen.

Cade Metz und Mike Isaac berichten in der New York Times über die Bemühungen von OpenAI, sich zu einem profitorientierten Unternehmen zu entwickeln. Der ChatGPT-Hersteller stellt erfahrene Tech-Manager ein und erweitert seinen Vorstand, um Investoren anzulocken. Gleichzeitig kämpft das Unternehmen mit internen Spannungen zwischen kommerziellen Zielen und Sicherheitsbedenken. Viele Gründungsmitglieder haben OpenAI verlassen, während neue Mitarbeiter hinzukommen. Das Unternehmen erwägt Änderungen seiner Unternehmensstruktur, um für Investoren attraktiver zu werden. Trotz steigender Nutzerzahlen und Umsätze bleibt die grundsätzliche Frage nach OpenAIs Identität - Forschungslabor oder Technologiegigant - ungelöst.

Laut einer neuen Umfrage von Slack und Salesforce könnten Unternehmen die KI-Akzeptanz verbessern, indem sie ihr Vorgehen personalisieren. Christina Janzer, Senior Vice President bei Slack, berichtet von fünf Mitarbeiter-Typen im Umgang mit KI: Maximalist, Underground, Rebel, Superfan und Observer. Die Studie basiert auf Befragungen von 5.000 Büroangestellten. Janzer empfiehlt, für jeden Typ einen maßgeschneiderten Ansatz zu entwickeln. So sollten Unternehmen die Begeisterung der Maximalisten nutzen und Undergrounds ermutigen, ihre KI-Erfahrungen zu teilen. Für Rebels seien mehr Ressourcen und Schulungen wichtig. Superfans und Observers könnten durch praxisnahe Beispiele an KI herangeführt werden. Slack hat zudem einen Online-Test entwickelt, mit dem Mitarbeiter ihren KI-Typ bestimmen können.

Mike Masnick berichtet auf Techdirt über die Auswirkungen von KI-Erkennungssoftware auf den Schreibstil von Schülern. Er schildert, wie sein Kind bei einem Aufsatz über Kurt Vonneguts Kurzgeschichte „Harrison Bergeron“ mit Grammarlys KI-Checker konfrontiert wurde. Obwohl der Text von einem Menschen verfasst wurde, stufte das Tool ihn teilweise als KI-generiert ein. Dies führte dazu, dass das Kind versuchte, bestimmte Wörter und Formulierungen zu vermeiden, um nicht fälschlicherweise des KI-Einsatzes beschuldigt zu werden. Masnick sieht darin die Gefahr, dass Schüler aus Angst vor KI-Detektoren ihre Kreativität einschränken könnten. Er kritisiert zudem die Unzuverlässigkeit solcher Tools und warnt vor Gesetzen, die deren Einsatz vorschreiben wollen.

Fundstück

Wenn KI auf Minecraft losgelassen wird …

… können erstaunliche Dinge passieren. Das kalifornische Unternehmen Altera hat Minecraft genutzt, um KI-Agenten zu testen. Darunter versteht man KI-Systeme, die autonom agieren und etwa selbst entscheiden, wie sie eine Aufgabe erledigen. Heute übliche KI-Systeme reagieren hingegen in der Regel nur auf den Prompt und haben Schwierigkeiten mit komplexen Aufträgen, die mehrere Schritte erfordern.

Altera hat in seinen diversen Simulationsdurchläufen die unterschiedlichsten Effekte und Aktivitäten gesehen. In einem Fall entwickelten die KI-Agenten etwa ein eigenes Wirtschaftssystem mit Edelsteinen als Währung.

Mehr zu den Hintergründen bei Cybernews. Gefunden auf Reddit.

Was bedeutet …

Model Weight

In der Welt der künstlichen Intelligenz bezeichnet der Begriff „Model Weight“ („(Modellgewicht“) die numerischen Werte oder Parameter, die ein KI-Modell während des Trainingsprozesses erlernt hat. Diese Gewichte repräsentieren das „Wissen“ oder die „Erfahrung“ des Modells und bestimmen, wie es auf neue Eingaben reagiert.

Bei kreativen KI-Anwendungen beeinflussen die Model Weights maßgeblich, wie das System Bilder generiert, Texte verfasst oder Musik komponiert.

Je nach Trainingsdaten und -methode können unterschiedliche Gewichte zu verschiedenen Stilen oder Fähigkeiten führen. Kreative können durch die Auswahl oder sogar Fine Tuning spezifischer Model Weights die Ausgabe von KI-Tools gezielt beeinflussen und so einzigartige, auf ihre Bedürfnisse zugeschnittene Ergebnisse erzielen. 

Wir über uns

Gefällt dir dieser Newsletter? Dann empfiehl ihn doch weiter! Verweise dazu am besten auf https://upload-magazin.de/smart-content-report/

Wir haben zwei weitere Newsletter, die für dich relevant sind:

Das Content-Briefing liefert dir immer im Wechsel mit dem Smart Content Report einen praktischen Tipp für deine Content-Arbeit sowie Lesetipps andernorts. Ansehen …

Mit dem Update am Montag wiederum erfährst du einmal pro Woche, welche neuen Inhalte und Angebote du beim UPLOAD Magazin findest. Ansehen …