Smart Content Report #13

Achtung: KI-Detektoren sind „weder genau noch zuverlässig“

Es gibt zahlreiche Dienste, die damit werben, dass sie KI-Texte mit „99% Genauigkeit“ erkennen können – ohne die Nachweise dafür öffentlich zu machen. Zugleich gibt es Dienste, die damit werben, dass sie KI-Texte so anpassen, dass sie angeblich kein Detektor erkennen kann.

Beides zugleich kann nicht stimmen.

Zugegeben: Einen unveränderten Text von GPT 3.5 würde ich oftmals erkennen – ganz ohne Tool. Bestimmte Ausdrucksweisen wiederholen sich. Der Aufbau ist immer ähnlich. Ich habe hier und da Artikel im Netz gesehen, bei denen ich mir „99%“ sicher war: Das ist 1:1 von dieser (inzwischen überholten) KI übernommen.

Aber wir sprechen heute nicht mehr viel über GTP 3.5. Ein Werkzeug wie etwa Claude 3 Opus hat auch auf Deutsch einen sehr guten, verblüffend menschlichen Schreibstil. 

Deshalb kommt es zu dem, was Gizmodo in einem lesenswerten Artikel beschreibt: KI-Detektoren kennzeichnen etwa einen Text als KI-generiert, wenn er zu gut geschrieben ist.

Das muss man sich auf der Zunge zergehen lassen: Korrekte Grammatik und Zeichensetzung sind ab sofort verdächtig. Ein professioneller Schreibstil und ein inhaltlicher Aufbau gemäß bekannter Style Guides? Das kann ja nur KI sein.

Das ist natürlich kompletter Unsinn.

Ähnlich sieht es die wissenschaftliche Studie „Testing of detection tools for AI-generated text“, die 12 Dienste ausprobiert hat und feststellt:

„The researchers conclude that the available detection tools are neither accurate nor reliable.“

Deutlicher kann man es wohl nicht mehr sagen.

Ein weiteres Problem: Wenn ich KI-gestützte Hilfswerkzeuge benutze, könnte allein das schon zu einer falschen Kennzeichnung führen. Man denke etwa an Dienste, die Fehler im Text finden, den Ausdruck verbessern und mehr. Sind so bearbeitete Beiträge nun plötzlich „KI-generiert“? Doch mit Sicherheit nicht.

Mit anderen Worten: Die Wahrscheinlichkeit ist hoch, dass eine KI-Erkennung vollkommen daneben liegt. KI-Texte rutschen dann ohne Alarm durch und menschliche Texte werden fälschlicherweise als KI-Werke gekennzeichnet.

Verlasst euch also nicht auf die Versprechungen dieser Anbieter. 

Überlegt vielleicht lieber, warum KI-Nutzung als Problem angesehen wird. Dann könnt ihr diesen Punkt angehen und im Content-Team besprechen.

Denn eines ist klar: Selbst wenn die KI exzellente Texte liefert, sollte immer ein Mensch das letzte Wort haben. Es sollte zudem klar sein, wann und wofür welche KI-Werkzeuge eingesetzt werden dürfen, wo ihre Schwächen liegen und wofür sie sich grundsätzlich nicht eignen.

- Jan Tißler, UPLOAD Magazin

In eigener Sache

KI & Content: Individuelle Schulungen für Unternehmen

Erweitere dein Content-Team um passende KI-Tools für mehr Produktivität, Effizienz und Qualität.

In unseren individuellen Schulungen zeigen wir, wie dein Team ChatGPT, Bing Copilot, Perplexity und andere sinnvoll und zielgerichtet einsetzen kann und ermöglichen so die Integration in den produktiven Einsatz.

Wir stellen deinem Team alle wichtigen KI-Tools vor, üben den gekonnten und zielgerichteten Einsatz und erarbeiten effiziente Workflows für noch besseren Content.

TOOLS

Neue Version und Funktionen für ChatGPT-Alternative Claude

Anthropics neues Sprachmodell Claude 3.5 Sonnet sorgt für Aufsehen in der KI-Community. Laut Berichten übertrifft es bisherige Modelle wie GPT-4 in Benchmark-Tests und beeindruckt Nutzer mit seiner Leistungsfähigkeit. Demnach kann es auch komplexe Aufgaben wie Spieleprogrammierung oder Webentwicklung bewältigen. 

Trotz Schwächen bei einfachen kognitiven Aufgaben zeigt Claude 3.5 Sonnet das Entwicklungstempo im Bereich der großen Sprachmodelle und setzt damit die Konkurrenz unter Druck.

Als Ergänzung zu Claude 3.5 Sonnet stellt Anthropic die neue Funktion „Artifacts“ vor. Diese ermöglicht es Nutzern, direkt mit den Ergebnissen ihrer Anfragen zu interagieren. Ob es sich um Designs, E-Mails oder andere Inhalte handelt: Sie können nun direkt in der Claude-App angezeigt und bearbeitet werden.

Außerdem führt Anthropic die Funktion „Projects“ ein. Sie ermöglicht es Teams, relevante Dokumente, Code und Wissen an einem zentralen Ort zu sammeln und zu organisieren. Mit einem Kontextfenster von 200.000 Token (was etwa einem 500-seitigen Buch entspricht) kann Claude darüber nun große Mengen organisationsspezifischer Informationen verarbeiten und verstehen. 

Diese Neuerungen deutet auf Anthropics Vision hin, Claude von einem reinen Chatbot zu einem umfassenden Arbeitstool für Unternehmen weiterzuentwickeln. Ziel ist es offenbar, Wissen, Dokumente und laufende Arbeiten an einem Ort zusammenzuführen, ähnlich wie bei Notion oder Slack.

Neue KI-Modelle für Video: Luma Dream Machine und Runway Gen-3 Alpha

Luma AI, ein Startup aus San Francisco, hat mit „Dream Machine“ ein neues KI-System zur Videogenerierung vorgestellt. Im Gegensatz zu ähnlichen Systemen wie etwa von OpenAI („Sora“) ist Dream Machine ab sofort für alle kostenlos nutzbar. Nutzer können damit durch einfache Texteingaben 5-Sekunden-Videoclips erstellen. Die Qualität der Ergebnisse überzeugt allerdings nicht immer. Das Startup selbst listet die Schwächen von Dream Machine auf der Produktseite auf. Quelle: VentureBeat

Damit nicht genug: Runway, ein Vorreiter im Bereich KI-generierter Videos, präsentiert mit Gen-3 Alpha sein neuestes Modell. Dieses ermöglicht realistische 10-sekündige Videoclips mit präzisen Details und vielfältigen Ausdrucksmöglichkeiten. Das Modell, das für zahlende Abonnenten verfügbar ist, verspricht schnellere Generierungszeiten und soll alle bestehenden Modi wie Text-zu-Video und Bild-zu-Video unterstützen. Runway betont, dass Gen-3 Alpha auf einer neuen Infrastruktur für multimodales Training basiert und einen Schritt in Richtung „General World Models“ darstellt (siehe Glossar unten). Quelle: VentureBeat

Weitere Tools in aller Kürze

ElevenLabs veröffentlicht ein neues Tool, mit dem Videomacher schnell und einfach passende Soundeffekte für ihre Clips erstellen können. Die App analysiert hochgeladene Videos und schlägt verschiedene Soundeffekte vor, die sich über eine Schnittstelle direkt in die Videos integriert lassen.

Eine neue iOS-App von ElevenLabs ermöglicht es Nutzern zudem, Artikel, Bücher oder Dokumente unterwegs in einer KI-generierten Audioversion anzuhören. 

Genspark ist eine neue KI-gestützte Suchmaschine, die ähnlich wie Googles AI Overviews oder Arc Search mit Hilfe generativer KI Zusammenfassungen von Suchergebnissen erstellt, jedoch laut eigenen Angaben durch spezialisierte Modelle eine höhere Qualität erzielt. 

Augie Studio präsentiert eine neue KI-Plattform, um Videos für soziale Medien einfach und in großem Stil zu erstellen. Die Plattform bietet verschiedene Funktionen wie die KI-gestützte Erstellung von Skripten, Voice-Overs und Bildern sowie Bearbeitungswerkzeuge, um Videos individuell anzupassen.

Meta veröffentlicht eine Reihe neuer KI-Modelle für Audio, Text und Wasserzeichen. Außerdem stellt Meta zwei Größen seines multimodalen Textmodells Chameleon für Forschungszwecke zur Verfügung. Diese Modelle ermöglichen es, Aufgaben zu erledigen, die visuelles und textuelles Verständnis erfordern, wie z. B. Bildbeschriftung.

Microsoft hat mit Florence-2 ein vielseitiges KI-Modell vorgestellt, das verschiedene Bildverarbeitungsaufgaben mit einem einzigen, einheitlichen Ansatz bewältigen kann. Das unter MIT-Lizenz verfügbare Modell übertrifft trotz seiner kompakten Größe offenbar größere Spezialmodelle in Bereichen wie Bildbeschriftung und Objekterkennung und könnte Unternehmen helfen, Investitionen in separate aufgabenspezifische Modelle einzusparen.

Stability AI hat mit Stable Diffusion 3 Medium eine kleinere Version seines Bildgenerierungsmodells veröffentlicht, die auf PCs mit nur 5 GB VRAM laufen kann. Das Modell bietet laut Stability AI eine vergleichbare Qualität wie die größere Version und könnte somit eine attraktive Option für Anwender mit begrenzten Ressourcen sein.

Die ehemalige Meta-Ingenieure Fryderyk Wiatrowski und Peter Albert haben einen KI-Agenten namens Jace entwickelt, der Aufgaben im Browser selbstständig erledigen soll wie etwa eine Hotelbuchung.

Nvidias neues, offenes Sprachmodell Nemotron-4 340B soll laut Unternehmensangaben die Generierung synthetischer Daten revolutionieren und Unternehmen die Möglichkeit geben, maßgeschneiderte KI-Modelle zu entwickeln. 

Kong Inc. hat sein „AI Gateway“ veröffentlicht, eine Plattform, die Unternehmen die Kontrolle und sichere Nutzung von generativer KI in verschiedenen Cloud-Umgebungen erleichtern soll. Laut Kong ermöglicht das Gateway die Integration und Verwaltung verschiedener KI-Technologien über eine einzige Schnittstelle und bietet unter anderem Sicherheitsfunktionen, die Missbrauch durch Manipulation der Eingaben (Prompts) für KI-Modelle verhindern sollen.

LiveBench ist ein neuer Benchmark für große Sprachmodelle, die von einem Wissenschaftlerteam entwickelt wurde. Im Gegensatz zu bestehenden Benchmarks verwendet er ständig aktualisierte Fragen aus aktuellen Quellen und bewertet die Antworten automatisch anhand objektiver Kriterien. Das Team hat sich besonders bemüht, die Gefahr der „Contamination“ zu vermeiden, bei der die Trainingsdaten eines Sprachmodells die Testdaten eines Benchmarks enthalten. Dadurch sollen die Ergebnisse des Benchmarks tatsächlich die Fähigkeiten des Modells in neuen Situationen widerspiegeln und nicht nur dessen Fähigkeit, bereits bekannte Inhalte wiederzugeben.

Ein neuer Benchmark-Test von Sierra zeigt, dass selbst fortschrittliche Sprachmodelle wie GPT-4o bei komplexen Aufgaben in realistischen Szenarien noch Schwierigkeiten haben und eine Erfolgsquote von unter 50 Prozent erreichen. Der Test namens TAU-bench soll Entwicklern helfen, die Leistung von KI-Agenten in realitätsnahen Situationen zu bewerten, indem er Faktoren wie mehrfache Interaktionen und komplexe Aufgaben berücksichtigt.

News

KI-Suchmaschine Perplexity in der Kritik

Das KI-Startup Perplexity steht in der Kritik. Mehrere Medien werfen dem Unternehmen vor, unerlaubt Inhalte von Webseiten zu kopieren. Besonders brisant: Perplexity soll dabei Sperren umgangen haben, die genau dies verhindern sollten.

Perplexity-Chef Aravind Srinivas weist die Vorwürfe zurück. Er spricht von Missverständnissen und verweist vage auf die Nutzung von Drittanbietern. Gleichzeitig betont er, dass alte Regeln für Webcrawler in Zeiten von KI überdacht werden müssten. Kritiker sehen darin den Versuch, sich aus der Verantwortung zu stehlen. Einige Verlage drohen bereits mit rechtlichen Schritten.

Die Debatte um Perplexity zeigt ein grundsätzliches Problem: Wie gehen KI-Firmen mit fremden Inhalten um? Perplexity plant nun, Gewinne mit einigen Publishern zu teilen. Ob das reicht, um die Wogen zu glätten, ist allerdings fraglich.

Quellen: Pixel Envy, Wired, Axios, Fast Company

Musiklabels verklagen Musik-KI-Startups Suno und Udio

Die großen Musiklabels Universal Music Group, Sony Music Entertainment und Warner Records haben die KI-Unternehmen Suno und Udio verklagt. Sie werfen ihnen vor, für ihre KI-Musikgeneratoren ohne Erlaubnis  massenhaft urheberrechtlich geschützte Werke verwendet zu haben.

Die Klagen wurden von der Recording Industry Association of America (RIAA) in Boston und New York eingereicht. Die Labels fordern Schadensersatz von bis zu 150.000 US-Dollar pro Werk.

Suno und Udio ermöglichen es Nutzern, per Texteingabe Songs zu erstellen. Laut Klageschrift können ihre KI-Modelle täuschend echte Imitationen bekannter Künstler und Lieder produzieren.

Die beklagten Unternehmen weisen die Vorwürfe zurück und betonen, ihre Technologie sei darauf ausgelegt, neue Inhalte zu generieren.

Quellen: The Verge, VentureBeat

Weitere News in aller Kürze

Ilya Sutskever, Mitbegründer von OpenAI, hat ein neues Startup namens Safe Superintelligence Inc. ins Leben gerufen. Ihm zur Seite stehen Daniel Levy und Daniel Gross. Die Gründer sehen „Superintelligenz“ als das wichtigste technische Problem unserer Zeit. Solche Systeme würden weit über die Möglichkeiten des menschlichen Gehirns hinausgehen. Sutskever war zuvor Teil des Superalignment-Teams bei OpenAI, das sich mit der Kontrolle leistungsstarker KI-Systeme befasste. Siehe dazu auch Smart Content Report #11 und den Eintrag zu Alignment im KI-Glossar. Quelle: VentureBeat

Das ChatGPT-Unternehmen OpenAI übernimmt zwei Startups: Rockset und Multi. Rockset, bekannt für seine Echtzeit-Analysedatenbank, soll OpenAIs Infrastruktur stärken. Das fünfköpfige Team von Multi wiederum, Spezialisten für Screensharing und Kollaboration, verstärkt die Entwicklung der ChatGPT-Desktop-App. Branchenexperten spekulieren über mögliche neue Funktionen, wie KI-Computersteuerung oder verbesserte Teamarbeit. 

Apropos OpenAI: Das Startup verzeichnet laut einem Bericht des Technologiemagazins „The Information“ einen rasanten Umsatzanstieg. Der Jahresumsatz soll sich in den letzten sechs Monaten verdoppelt haben und nun bei 3,4 Milliarden Dollar liegen. Der Großteil des Umsatzes stamme aus den Abonnements für ChatGPT und der Lizenzierung der Sprachmodelle an Entwickler. Microsoft zahlt OpenAI zudem einen Teil der Einnahmen aus dem Verkauf der Sprachmodelle über seine Cloud-Plattform Azure. Die Zahlen werden von OpenAI allerdings bestritten.

Und OpenAI zum Dritten: Der groß beworbene neue „Voice Mode“ für ChatGPT ist um mindestens einen Monat verschoben. Er soll nun Ende Juli oder Anfang August zunächst für eine kleine Gruppe von Nutzern verfügbar sein. 

Forscher haben einen Weg gefunden, die Energieeffizienz großer Sprachmodelle drastisch zu verbessern, ohne an Leistung einzubüßen. Über ihr System lässt sich ein Sprachmodell mit Milliarden von Parametern mit nur 13 Watt betreiben. Die Forscher schufen außerdem eigene Hardware, die die Energieeinsparungen noch weiter maximiert.

Metas Kennzeichnung von Bildern als „Made with AI“ sorgt für Verwirrung und Kritik. Das Unternehmen möchte Fotos, die mithilfe von KI-Tools erstellt wurden, auf seinen Plattformen kenntlich machen, doch die automatische Kennzeichnung funktioniert nicht zuverlässig. Zahlreiche Nutzer berichten, dass auch Fotos das Label erhalten, die lediglich bearbeitet wurden. Fotografen kritisieren, dass einfache Bildbearbeitung nicht mit KI-generierten Inhalten gleichgesetzt werden sollte. Meta räumt Fehler ein und arbeitet nach eigener Aussage an einer Verbesserung der Kennzeichnung.

Das auf Bildgenerierung spezialisierte KI-Startup Stability AI, bekannt für sein Tool Stable Diffusion, wird nach finanziellen Schwierigkeiten von einer Investorengruppe um den ehemaligen Facebook President Sean Parker übernommen. Die Investoren stellen 80 Millionen Dollar bereit, um das Unternehmen zu rekapitalisieren. Ziel ist es, unter der Leitung des neuen CEO Prem Akkaraju ein tragfähiges Geschäftsmodell für Stability AI zu entwickeln. Geplant sind kostenpflichtige Versionen der KI-Modelle für Unternehmen sowie Tools zur Integration der Technologie.

Apple verzögert die Einführung neuer KI-Funktionen in Europa. Das Unternehmen begründet dies mit Bedenken hinsichtlich Datenschutz und Sicherheit im Zusammenhang mit den Interoperabilitätsanforderungen des Digital Markets Act (DMA). Experten sehen darin ein Zeichen dafür, dass Unternehmen Wettbewerbsgesetze zunehmend ernst nehmen. Apple betont, an einer Lösung zu arbeiten, um die Funktionen auch EU-Kunden anbieten zu können.

Viele KI-Modelle, die Chatbots antreiben, werben mit „Open Source“, geben aber den Code und die Trainingsdaten nicht vollständig frei. Eine neue Studie zeigt, dass viele große Unternehmen ihre Modelle als „Open Weights“ bezeichnen, was bedeutet, dass Forscher sie zwar nutzen, aber nicht einsehen oder grundlegend anpassen können. Besonders hinderlich ist die fehlende Transparenz bei den Trainingsdaten. Kleine Firmen und Forschungsgruppen setzen dagegen auf echte Open-Source-Modelle, die eine Weiterentwicklung der KI-Forschung ermöglichen. 

Googles KI-Forschungslabor DeepMind hat eine neue Technologie namens V2A entwickelt, die automatisch passende Soundtracks, Soundeffekte und sogar Dialoge für Videos generieren kann. Obwohl V2A vielversprechend scheint, räumt DeepMind ein, dass die generierte Audioqualität noch nicht perfekt ist. Es ist vorerst nicht allgemein erhältlich.

Trotz zahlreicher KI-Integrationen in Anwendungen wie Salesforce oder Adobe Photoshop bleiben nennenswerte Umsätze offenbar bisher aus, berichtet Bloomberg. Viele Unternehmen seien sich noch unsicher über geeignete Preismodelle. Währenddessen profitieren Hardware- und Cloud-Anbieter deutlich stärker vom KI-Boom. 

Amazon plant offenbar einen großen Neustart für seinen Alexa-Dienst, der seit Jahren Verluste macht. Das Unternehmen plant laut Reuters, Alexa mit einem neuen KI-System auszustatten, das in zwei Stufen angeboten werden soll. Eine Premium-Version könnte für etwa 5 US-Dollar pro Monat zugänglich sein und Aufgaben wie das Verfassen von E-Mails oder das Bestellen von Essen ermöglichen. Ob Alexa durch diesen Schritt profitabel wird, bleibt abzuwarten, denn die Konkurrenz in der KI-Branche ist groß und die Nutzer sind es gewohnt, Alexa kostenlos zu nutzen. 

LesetippS

KI als Helfer und nicht als Ersatz für kritisches Denken

Der Artikel „Turning the Tables on AI“ schlägt einen innovativen Ansatz im Umgang mit künstlicher Intelligenz vor. Statt KI als Ersatz für eigenes Denken zu nutzen, plädiert der Autor dafür, sie als Werkzeug zur Förderung des kritischen Denkens einzusetzen. Er präsentiert praktische Tipps, wie man ChatGPT als Ideengenerator, Fragensteller und Editor nutzen kann, ohne dabei die eigene Kreativität und Autorschaft aufzugeben. 

Weitere Lesetipps in aller Kürze

In seinem Artikel für VentureBeat analysiert Samir Kumar, Mitbegründer von Touring Capital, den aktuellen KI-Hype-Zyklus. Er warnt davor, voreilige Schlüsse zu ziehen und erinnert an frühere Technologiewellen wie die Smartphone-Revolution. Kumar betont, dass die ersten Innovatoren oft nicht die langfristigen Gewinner sind. Er rät Gründern und Investoren, bei KI-Startups besonders auf Datenstrategien, regulatorische Voraussicht und Cybersicherheit zu achten. Laut Kumar ist die Qualität und Menge der Trainingsdaten entscheidend für den Erfolg von KI-Modellen. Er erwartet weitere Innovationsschübe, mahnt aber zur Vorsicht bei überzogenen Erwartungen und empfiehlt, auf die Einschätzungen von Forschern und Entwicklern zu hören.

Dieser Artikel von Tim O'Reilly diskutiert die komplexe Urheberrechtsproblematik im Zusammenhang mit KI-Training und -Nutzung. Er argumentiert, dass statt eines rechtlichen Kampfes eine Lösung gefunden werden muss, die sowohl KI-Entwickler als auch Urheber begünstigt. O'Reilly schlägt vor, dass KI-Unternehmen Urheberrechte respektieren, Quellenangaben machen und für Outputs statt fürs Training bezahlen sollten. 

Fundstück

ChatGPT als Handwerker? Vielleicht lieber nicht …

Reddit-Nutzer Zaryatta76 bat ChatGPT um eine bebilderte Anleitung dazu, wie man einen Fernseher an der Wand befestigt. Wie man oben sieht, hat die KI dazu eine eher ungewöhnliche Idee. Wobei: Vielleicht ist das ja eine verdeckte Aufforderung des Chatbots, unsere vielen Bildschirme hinter uns zu lassen und mal wieder frische Luft zu genießen?

Oder aber die Bild-KI simuliert eine illustrierte Anleitung ohne deren Inhalt tatsächlich zu verstehen.

Eines von beiden.

Was bedeutet …

General World Model

Ein General World Model, oder allgemeines Weltmodell, ist ein ehrgeiziges Konzept in der künstlichen Intelligenz. Es zielt darauf ab, ein KI-System zu erschaffen, das die Welt so umfassend versteht und simulieren kann wie ein Mensch. Stell dir etwa vor, du hättest einen virtuellen Assistenten, der nicht nur Texte oder Bilder erzeugen kann, sondern auch komplexe Situationen aus dem echten Leben versteht, vorhersagen und darauf reagieren kann. Er könnte beispielsweise die Folgen einer Handlung abschätzen, soziale Interaktionen interpretieren oder kreative Lösungen für vielfältige Probleme finden. Ein solches Modell würde quasi ein digitales Abbild unserer Welt und ihrer Funktionsweise in sich tragen, was es zu einem mächtigen, aber auch herausfordernden Ziel der KI-Forschung macht.

Wir über uns

Gefällt dir dieser Newsletter? Dann empfiehl ihn doch weiter! Verweise dazu am besten auf https://upload-magazin.de/smart-content-report/

Wir haben zwei weitere Newsletter, die für dich relevant sind:

Das Content-Briefing liefert dir immer im Wechsel mit dem Smart Content Report einen praktischen Tipp für deine Content-Arbeit sowie Lesetipps andernorts. Ansehen …

Mit dem Update am Montag wiederum erfährst du einmal pro Woche, welche neuen Inhalte und Angebote du beim UPLOAD Magazin findest. Ansehen …