AI & Search - OMT 2023

Schätzungen zufolge wird künstliche Intelligenz bis 2025 für 95 % aller Kund:inneninteraktionen verantwortlich sein – so überrascht es nicht, dass sich KI in den vergangenen 18 Monaten zu einem der meistdiskutierten Themen weltweit entwickelt hat. Spätestens seit der Einführung von ChatGPT scheint es, als führe kein Weg mehr an künstlicher Intelligenz vorbei. Unternehmen sind fieberhaft auf der Suche nach sinnvollen Anwendungsfällen, doch wo anfangen bei derart vielen Möglichkeiten? Welchen Einfluss hat KI auf das Thema Suche – und damit auf eure Suchmarketing-Aktivitäten? In seiner Keynote wirft Bastian einen Blick auf die (nahe!) Zukunft und liefert praktische Beispiele, wie ihr das Wachstum eures Unternehmens langfristig vorantreibt.

Transcript

1. AI & Search A Double Exponential Leap into the Future Bastian Grimm | Peak Ace AG | @basgr 13. Oktober 2023
2. Wir stehen an der Schwelle zum umfassendsten technologischen Wandel in der Geschichte der Menschheit
3. Sales, Unternehmensentwicklung, das Erstellen von Strategien, aber auch Dinge wie Lernen, Kommunikation, sowie sämtliche Fleißarbeitsthemen u.v.m. KI verändert alles
4. Und investieren Milliardenbeträge in die erforderliche Infrastruktur sowie die Entwicklung neuer Modelle und KI-gestützter Anwendungen. Top-Tech-Unternehmen kämpfen um KI-Vorherrschaft
5. Regierungen versuchen KI zu verstehen (und zu regulieren)
6. 6 peakace.agency Verordnung zur Bewältigung von KI-Risiken in Vorbereitung Sie soll Investitionen in Cybersicherheit, Diskriminierungsforschung und ein neues Watermarking-System umfassen, das Nutzer:innen darüber informiert, dass es sich um KI-generierte Inhalte handelt. Quelle: https://pa.ag/3EjHHj6
7. 7 peakace.agency Außerdem werden nicht staatliche Initiativen ergriffen Anthropic, Google, Microsoft und OpenAI haben die Gründung des Frontier Model Forum angekündigt. Quelle: https://pa.ag/45uF1Lp 1. Fortschritte in der KI-Sicherheitsforschung, um die verantwortungsvolle Entwicklung von Pioniermodellen zu fördern, Risiken zu minimieren und die Bewertung von Fähigkeiten und Sicherheit zu ermöglichen. 2. Best Practices identifizieren, für die verantwortungsvolle Entwicklung und den Einsatz von Pioniermodellen sowie die Förderung des Verständnisses der Öffentlichkeit zu Fähigkeiten, Grenzen und Auswirkungen von KI. 3. Zusammenarbeit mit Entscheidungsträger:innen, Akademiker:innen, der Zivilgesellschaft und Unternehmen, um Wissen über den Wahrheitsgehalt und die Risiken von KI-generierten Inhalten auszutauschen. 4. Entwicklung von Anwendungen, die zur Bewältigung der größten gesellschaftlichen Herausforderungen beitragen können, z. B. Krebsfrüherkennung und -prävention sowie Bekämpfung von Cyber-Bedrohungen.
8. Fachleute schwanken zwischen Angst vor dem Unbekannten und der Begeisterung für das, was einst als unvorstellbar galt.
9. Unternehmen versuchen Schritt zu halten, indem sie schnellstmöglich KI-Strategien definieren
10. 10 peakace.agency 30 % der heute geleisteten Arbeitsstunden könnten mithilfe von Generative AI bis 2030 automatisiert werden. Quelle: https://pa.ag/3FbhX8J
11. Schätzungen zufolge werden bis 2025 95 % aller Kund:inneninteraktionen in irgendeiner Form mit KI in Berührung kommen
12. 12 peakace.agency So sehr man es versucht – aktuell führt kein Weg an KI vorbei
13. Probieren wir’s doch einfach mal aus. Wie leistungsfähig ist die verfügbare Technologie wirklich?
14. 14 peakace.agency Stock Photo oder KI? Welches Bild wurde von einer Maschine / KI erstellt?
15. 15 peakace.agency VS. #A #B
16. 16 peakace.agency VS. #A #B
17. 17 peakace.agency VS. #A #B
18. 18 peakace.agency Midjourney ist mittlerweile WIRKLICH gut... einfach wow! Unser absoluter Favorit unter den KI-Tools für die Text-zu-Bild-Erstellung, die derzeit verfügbar sind: Quellen: https://pa.ag/3L1O5iE & https://pa.ag/3C11Zwo
19. Prompting ist die Art und Weise, wie Menschen mit KI kommunizieren können. Es ermöglicht uns, auszudrücken, was und wie wir etwas wollen – für gewöhnlich (noch) per Text. Prompt(ing)?
20. 20 peakace.agency Hilfe / Inspiration gefällig? Nutzt den DS Prompt Builder: Quelle: https://pa.ag/3JbNxFM Super einfache Eingabe via Drag & Drop von visuellen Elementen, um z.B. Stil, Beleuchtung usw. auszuwählen
21. 21 peakace.agency Prompting als Kernkompetenz für jede generative KI Wer die besten, kreativsten und spezifischsten Prompts formuliert, wird auch die besten Inhalte generieren (und KI- / API-Credits sparen). Quelle: https://pa.ag/3TbAE0U Es gibt einen Marktplatz (promptbase.com), der auf Prompts Trading spezialisiert ist – nutzt ihn zur Inspiration!
22. 22 peakace.agency Empfohlene Use Cases für generative Bild-KI Wir befinden uns noch in einem frühen Stadium, dennoch lassen sich die hier genannten Anwendungsmöglichkeiten bereits heute sehr gut umsetzen und ermöglichen neben Effizienzsteigerungen auch Zeit- und Kosteneinsparungen: Header Images z. B. für Blogbeiträge oder Newsletter Social Images z. B. für Social Media Feeds wie LinkedIn, Instagram etc. Bilder für Slides z. B. für Pitch- Präsentationen, Slide Decks oder Storyboards Bildbearbeitung z. B. für Bereinigungen, Objektentfernungen, Hochskalieren etc.
23. Unzählige neue Tools kommen auf den Markt – zur Erstellung von Text, Bildern, Videos, Audio und Code
24. 24 peakace.agency Quelle: https://pa.ag/3yrqQYn Dieser Screenshot ist ca. zehn Wochen alt. Wie viele Tools es wohl jetzt schon sind? Lieber selbst neue Tools entdecken? Das ist eure Anlaufstelle! theresanaiforthat.com – ja… für fast alles!
25. 25 peakace.agency Achtet bitte immer ganz genau darauf, welche Daten ihr weitergeben dürft! #confidentiality #dataprotection
26. KI für: Textproduktion
27. 27 peakace.agency Überblick über KI-basierte Tools zur Content-Erstellung Je nach Bedürfnissen und gewünschten Ergebnissen bin ich mir sicher, dass hier für jede:n etwas dabei ist:
28. KI für: Audio
29. 29 peakace.agency beatoven.ai: lizenzfreie, individualisierbare Musik beatoven.ai nutzt KI-Musikgenerierung, um einzigartige, stimmungsbasierte Musik zu komponieren (kann während der Erstellung via Drag & Drop bearbeitet werden): Quelle: https://pa.ag/3T9xQD4
30. 30 peakace.agency Weitere Audio- und Musik-KI-Tools Krisp AI: entfernt Hintergrundstimmen, Geräusche und Echos aus Calls Cleanvoice AI: entfernt Füllgeräusche, Stottern und Mundgeräusche aus Podcasts oder Audioaufnahmen Podcastle AI: Aufnahme, Bearbeitung und einfacher Export in Studioqualität – alles auf einer Webplattform soundraw.io: Gema-freie Musik, generiert von einer KI basierend auf Mood, Genre und Länge Descript.com: zum Schreiben, Aufnehmen, Transkribieren und Bearbeiten von Videos und Podcasts Soundbite AI: vorhandene Audio- und Videoinhalte in ready-to-edit Social Media Posts umwandeln
31. KI für: Video
32. 32 peakace.agency Personalisierte Interaktionen mit Kund:innen gewünscht? Maverick nimmt nur einmal auf und personalisiert dann automatisch alle nachfolgenden Videonachrichten, um so eine Produktion in großem Umfang zu ermöglichen. Quelle: https://pa.ag/3ZSIZdu
33. 33 peakace.agency Wir haben bei Peak Ace MURF.ai für die kostengünstige Lokalisierung von Video Ads genutzt Schritt 1: Originalskript in der gewünschten Sprache transkribieren Schritt 3: Lokalisierte Copy eingeben und das Skript exportieren Schritt 2: Stimme und Stil auswählen Schritt 4: Das neue Skript zum Video hinzufügen und anpassen, bis es perfekt klingt Neue FR-Version Die Herausforderung: Unser Kunde wollte ein Video Asset für mehrere Regionen verwenden, hatte jedoch keine lokalen Mitarbeiter:innen zur Verfügung, um die Skripte zu vertonen. Original DE
34. 34 peakace.agency Vor allem Gen-2 von Runway sieht wahnsinnig cool aus: Allein, wie der Stil eines Bildes oder eines Prompts auf jedes Einzelbild eines Videos übertragen wird: Quelle: https://pa.ag/41WwvTp Source Video Generated Video Driving Image
35. KI für: No Code
36. 36 peakace.agency Akkio.com: schneller wachsen & skalieren mit No-Code ML Individuelle Machine-Learning-Modelle in wenigen Minuten erstellen – ohne technische Vorkenntnisse. Einfach mit Datenquelle (z. B. CSV, SQL, BigQ) verbinden und loslegen: Quelle: https://pa.ag/3JwknSC
37. 37 peakace.agency Was Peak Ace mit Akkio und Co. bereits umgesetzt hat: 1. Sales Forecasting – voraussehen, wann Kund:innen kaufen werden 2. Churn Prediction – herausfinden, welche Kund:innen voraussichtlich als nächstes kündigen werden 3. Lead Scoring – verstehen, welche Quellen die höchste Kaufabsicht erzeugen
38. KI für: (Mehr) Produktivität
39. 39 peakace.agency Compose AI: eine Chrome Extension zum Schnell(er)sein Eine kostenlose Chrome-Erweiterung zur Automatisierung des Schreibprozesses Quelle: https://pa.ag/41TToay
40. 40 peakace.agency MailMaestro: OpenAI LLMs direkt in Outlook integrieren Benutzerdefinierte E-Mails und Antworten auf Grundlage kurzer Prompts generieren; E-Mail-Thread- Zusammenfassungen mit nur einem Klick erstellen Quelle: https://www.maestrolabs.com
41. 41 peakace.agency Mit Taplio besseren LinkedIn-Content erstellen Das Etablieren einer persönlichen Marke auf LinkedIn stellt einen wichtigen Hebel für Wachstum dar. Taplios Inspiration Layer liefert frische Ideen für jeden Post. Quelle: https://taplio.com
42. Ich könnte ewig so weitermachen …
43. Die rasanten Fortschritte in der Entwicklung von KI schaffen grenzenlose Möglichkeiten und sorgen für Aufruhr und Unsicherheit in Wirtschaft und Gesellschaft
44. 44 peakace.agency Interessanter, aber gruseliger Use Case der Uni Osaka „We propose a new method based on a diffusion model (DM) to reconstruct images from human brain activity obtained via fMRI (functional magnetic resonance imaging).” Quelle: https://pa.ag/3ZBaHvG Reconstructing visual experiences from human brain activity offers a unique way to understand how the brain represents the world, and to interpret the connection between computer vision models and our visual system.
45. 45 peakace.agency Neue Technologie ermöglicht einem gelähmten Mann, sich wieder zu bewegen und zu fühlen „Keith Thomas had five tiny electrode arrays implanted in his brain in a novel technique known as double neural bypass […] the chips use AI to decode and translate his thoughts into action.” Quelle: https://pa.ag/3Z1VHHK
46. 46 peakace.agency KI-generiertes Bild löste einen kurzen Börseneinbruch aus Ein Fake-Bild einer Explosion in Pentagon-Nähe wurde von mehreren Twitter Accounts (ja, X…) geteilt, sorgte für Chaos und einen kurzzeitigen Einbruch an der Börse. Quelle: https://pa.ag/434n6db
47. 47 peakace.agency CounterCloud: ein voll-autonomes KI-Desinformationssystem Die KI durchforstet ständig das Internet und verwendet die gefundenen Informationen, um Falschmeldungen zu erstellen. Anschließend veröffentlicht sie diese auf einem gefälschten Journalistenprofil und teilt sie in den sozialen Medien – mit Bildern, Soundclips, gefälschten Kommentaren und mehr. Quellen: https://pa.ag/3EsPWsU & https://pa.ag/45A4yCM It decides, via the gatekeeper module, what content is worth targeting. […] it then writes a counter-article, attributes it to a fake journalist profile, and then posts it [...]. It also generates fake comments by fake readers below some of the [new] articles to make it seem like there is an audience. The AI then goes to Twitter, […] posts links to the AI-generated articles, followed by posts that look like user commentary, conspiracy theories, and even hate speech.
48. Lasst uns über Search reden! Genug von dem Gruselzeug ...
49. 49 peakace.agency Old News: Microsoft geht All-in auf AI („Das neue Bing”) Die Integration von OpenAIs LLM in die Bing-Suchmaschine hat eine ganze Reihe von Veränderungen für die Suche im Allgemeinen eingeleitet (einige stehen noch aus).
50. 50 peakace.agency Microsoft wird MS365 Copilot flächenmäßig einführen Streng genommen ist das kein Marketingthema, doch die „Interaktion mit KI“ wird schon bald Teil unseres (Arbeits-) Alltags sein. Quellen: https://pa.ag/3ASowLb & https://pa.ag/43z5tC0 Windows Copilot ist einfach aufzurufen (die Schaltfläche befindet sich direkt in der Mitte der Taskleiste) und intuitiv zu nutzen. Einmal geöffnet, bleibt die Windows-Copilot-Seitenleiste in allen Anwendungen, Programmen und Fenstern stets eingeblendet, um jederzeit als persönlicher Assistent fungieren zu können.
51. 51 peakace.agency Natürlich hat auch Google etwas in petto ... Hello Bard! Quelle: https://pa.ag/40L1nEZ
52. 52 peakace.agency Googles Search Generative Experience (SGE) Tragt euch in die Warteliste ein (falls ihr noch nicht mit draufsteht): g.co/Labs (eine US IP / VPN und ein US-Google- Konto sind erforderlich). Quelle: https://pa.ag/433w36x
53. 53 peakace.agency
54. 54 peakace.agency
55. 55 peakace.agency
56. 56 peakace.agency
57. 57 peakace.agency
58. Hallucination, much?
59. 59 peakace.agency Die Frage ist: Verschwinden die Halluzinationen jemals? „It’s inherent in the mismatch between the technology and the proposed use cases,” sagt Emily Bender, Professorin für Linguistik und Leiterin des Labors für Computerlinguistik an der Universität Washington. Quelle: https://pa.ag/3PqP0Mh LLMs sind konzipiert, das jeweils nächste Wort vorherzusagen – natürlich wird es Fälle geben, in denen das Modell ungenau ist.
60. 60 peakace.agency Large Language Models: Probleme & Herausforderungen Neben Fehlinformation, anstößigen Inhalten und Halluzinationen gibt es noch so einige weitere Schwierigkeiten zu bedenken: Quelle: https://pa.ag/3tuOwJ9 Rechenleistung Die Qualität der Ergebnisse verbessert sich mit zunehmender Größe der LLMs. Die Zugewinne sind inkrementell, die Kosten steigen jedoch exponentiell. Biased Trainingsdaten Wenn voreingenommene Daten verwendet werden, wird sich für das System in der Praxis die gleiche Voreingenommenheit zeigen, wenn es Entscheidungen trifft. Umweltauswirkungen Ein Large Transformer Model zu trainieren verursacht 5.680 % mehr Kohlenstoffemissionen als ein Mensch in einem ganzen Jahr. Statische Infos LLMs werden in der Regel einmal trainiert und dann für sehr lange Zeiträume verwendet.
61. 61 peakace.agency (Negativ-) Praxisbeispiel: Amazon Recruiting mittels KI Das Unternehmen entwickelte eine KI, um das Recruiting effizienter zu skalieren, was in der Praxis nicht ganz so gut funktioniert hat … Quelle: https://pa.ag/4228GtP Amazon’s computer models were trained to vet applicants by observing patterns in resumes submitted to the company over a 10-year period. Most came from men, a reflection of male dominance across the tech industry. […] In effect, Amazon’s system taught itself that male candidates were preferable. It penalised resumes that included the word “women’s” and downgraded graduates of two all- women’s colleges.
62. Das Gleiche gilt natürlich auch für ChatGPT
63. 63 peakace.agency Advanced Data Analysis ist richtig cool! (Native File Upload) Man kann jetzt benutzerdefinierte Anweisungen erteilen (als PLUS-Nutzer:in). Sagt ChatGPT, was es über euch wissen muss und wie es antworten soll (Format, Stil etc.).
64. 64 peakace.agency Ein kleiner Prompt-Guide für das bestmögliche Ergebnis Tipps zur Erstellung besserer und effizienterer Prompts für ChatGPT (h/t Mike King): Quelle: https://pa.ag/42KbNpH Rolle Wen oder was stellt ChatGPT dar? Kontext Wofür erstellt ChatGPT gerade etwas? Anweisungen Was soll konkret erreicht werden? Format Wie soll die Antwort ausfallen? Beispiele Wie soll das Ergebnis ausfallen? Einschränkungen Was soll ChatGPT nicht tun?
65. 65 peakace.agency ChatGPT-Plug-ins: häufige Missverständnisse Plug-ins wie WebPilot oder LinkReader sind cool, aber wir müssen verstehen, was sie tatsächlich tun (und – was noch wichtiger ist – wozu sie bisher noch nicht in der Lage sind)! Prüft die Antwort des Kontextfensters / Plug-ins immer auf Einzelheiten und Details. Die Antworten sind weitaus häufiger fehlerhaft oder unvollständig als angenommen wird. 1. JavaScript stellt ein massives Problem für alle von uns getesteten Plug-ins dar (geht also davon aus, dass wichtige, JS-gestützte Inhalte fehlen) 2. PDFs lesen ist komplizierter als es scheint (die meisten Plug-ins spucken zumindest in Teilen Kauderwelsch aus) 3. Die Antwort des Plug-ins wird auf das Token-Limit angerechnet. Darüber hinaus gibt es ein Zeichenlimit von 100.000. 4. Eine Überschreitung des Token-Limits kann zu unvollständigen oder unsinnigen Antworten führen, da dem LLM wichtiger Kontext verloren geht.
66. 66 peakace.agency Veröffentlicht niemals etwas ohne es vorher zu prüfen! Geht immer davon aus, dass alles nochmal gegengelesen und angefasst werden muss, bevor es live gehen kann!
67. 67 peakace.agency Chrome fasst Artikel in Sekundenschnelle zusammen „SGE while browsing“ könnte mögicherweise einen Teil des tatsächlichen Website-Traffics wegnehmen und sich ebenfalls negativ auf Metriken wie Time-on-Site auswirken: Quelle: https://pa.ag/3qNNMRD
68. 68 peakace.agency
69. 69 peakace.agency
70. 70 peakace.agency Ob wir wollen oder nicht – SGE ist gekommen, um zu bleiben! In Googles eigenen Worten: „User feedback has been very positive so far.” While it’s exciting new technology, we’ve constantly been bringing in AI innovations into search for the past few years, and this is the next step in the journey. Sundar Pichai, CEO Google & Alphabet
71. 71 peakace.agency Kurzer Exkurs: Konferenzveranstalter zum Schwitzen bringen Oder: Wie man sicher nicht wieder eingeladen wird!
72. 72 peakace.agency SGE kann jetzt auch Bilder generieren & Entwürfe erstellen The AI feature […] is now going to be able to generate images using prompts directly in SGE similar to rival Bing’s support of OpenAI’s DALLE-E 3. Quelle: https://pa.ag/3ZWM4us
73. Durchaus denkbar, dass es in Zukunft sehr viel schwieriger werden wird, organischen Traffic zu generieren? Warum sollte uns das kümmern?
74. Auch die Anzeigenerstellung sowie deren Integration in die Suchergebnisse werden sich nachhaltig verändern. Google wird generative KI auch für Anzeigen einführen
75. Von Grund auf mit echter Multimodalität, hoher Effizienz bei der Verwendung externer Tools / APIs, Gedächtnisfunktion usw. entwickelt. Google arbeitet an einem brandneuen Modell: Gemini
76. Weitaus interessanter ist allerdings, dass sie (nicht öffentliche) Confidence Levels, z. B. für YMYL in das „Main LLM“ einführen und „Special Interest“-Modelle wie Med-PaLM 2 via Subquery hinzuziehen könnten. Die SGE wird einem umfassenden Makeover unterzogen
77. Eine multimodale KI kann Wissen / Input aus multiplen Quellen (z. B. Text, Audio, Video, Gesten, ...) aufnehmen und zur Lösung von Aufgaben nutzen, die eine beliebige Modalität involvieren. Multimodalität?
78. 78 peakace.agency Getestet: Google Bard & Lens funktionieren in Kombination Zwei Medienarten (Text und Bild) für den LLM-Input zu nutzen, stellt den ersten Schritt zur Multimodalität dar. Quelle: https://pa.ag/45mhvA5
79. 79 peakace.agency Zuletzt wurden viele Fortschritte in diesem Bereich erzielt MetaAI veröffentlicht ImageBind, das es Maschinen ermöglicht, menschenähnlich, simultan und ganzheitlich aus vielen verschiedenen Quellen zu lernen – ohne explizite Überwachung. Quelle: https://pa.ag/45KD2SP Wenn wir Menschen Informationen aus der Welt aufnehmen, nutzen wir von Natur aus mehrere Sinne, etwa, wenn wir eine belebte Straße sehen und die Geräusche von Automotoren hören.
80. All das erfordert jede Menge Hardware
81. Es geht nicht nur um Software, sondern nun auch vielmehr um Hardware. Der Wettlauf um (KI-)Chips
82. 82 peakace.agency Die hohe Nachfrage, LLMs zu betreiben, hält weiter an Marktführer Nvidia bringt daher 2024 einen noch leistungsfähigeren Chip auf den Markt. Quelle: https://pa.ag/3QYHFEw Nvidia did not reveal the price for the GH200; the H100 line currently sells for roughly $40,000 […] Cloud providers like AWS, Azure, and Google all use Nvidia’s H100 Tensor Core GPUs
83. 83 peakace.agency Die Nachfrage ist enorm, sodass die offiziellen Preise nur die halbe Wahrheit darstellen; die Realität sieht ganz anders aus Quelle: https://pa.ag/45McQXP
84. 84 peakace.agency AMD will (endlich) auch ein Stück vom Kuchen abhaben Quelle: https://pa.ag/45QAQZR
85. Cerebras CS-2 verspricht „eine Revolution der KI-Infrastruktur“. Es gibt auch weniger bekannte vielversprechende Player Quelle: https://pa.ag/3QZM9uW
86. 86 peakace.agency Natürlich werden auch hier immense Summen investiert: „Tenstorrent was valued at $1 billion, is one of several upstarts looking to challenge Nvidia, the market leader in supplying chips to develop artificial intelligence products like ChatGPT.“ Quelle: https://pa.ag/3EknTMp
87. Allein für KI-Beschleuniger für Rechenzentren wird laut AMD bis 2027 ein Markt von 150 Milliarden US-Dollar prognostiziert. Es lässt sich also jede Menge Geld mit Hardware verdienen Quelle: https://pa.ag/47Vsouv
88. Bloomberg zufolge wird der Markt für generative KI in den nächsten 10 Jahren auf 1,3 Billionen Dollar anwachsen. 42 % CAGR für generative KI?! Quelle: https://pa.ag/47PXmUF
89. 89 peakace.agency Weitreichende Veränderungen in der Weltwirtschaft erwartet Goldman Sachs zufolge könnte das globale BIP um rund sieben Billionen US-Dollar und das Produktivitätswachstums um 1,5 % ansteigen. Quelle: https://pa.ag/3sweMpf
90. 90 peakace.agency Wohin also geht’s mit KI in der Zukunft?
91. Fortschritte bei KI-Modellen und der Architektur
92. 92 peakace.agency LongNet (eine Transformer-Variante) skaliert auf mehr als 1 Milliarde Token! Es bringt erhebliche Vorteile mit sich, die Begrenzung der Sequenzlänge zu überwinden. Quelle: https://pa.ag/3OZun8a 1. Microsofts neueste KI-Architektur, LongNet, kann bereits in einer halben Sekunde verarbeiten, was ein einzelner Mensch in seiner gesamten Lebenszeit liest. 2. In Gegensatz dazu erreicht Claude (in diesem Feld am weitesten vorangeschritten) nur 100.000 Token (~75.000 Wörter oder ein komplettes Harry-Potter-Buch). 3. Mit Gen-KI-Modellen, die potenziell einen kompletten Web-Crawl in einem Durchgang erfassen können, eröffnet sich uns vielleicht schon bald ein Reich voller neuer Möglichkeiten. Man stelle sich ein Modell vor, mit dem man bpsw. ein komplettes Common Crawl Dataset (als Input) in einem Durchgang verarbeiten könnte!
93. 93 peakace.agency Quelle: https://pa.ag/47LzGRg Humpback führt einen iterativen Selbstlernprozess ein LLMs wie LLaMa können feingetunt werden, um Anweisungen zu befolgen, ohne auf kostspielige menschliche Einwirkung/Feedbacks oder Destillation aus leistungsfähigeren Modellen angewiesen zu sein. Humpback ist Teil der kontinuierlichen Bemühungen von Meta, auto- regressive LLMs zu entwickeln, die ohne menschliches Zutun lernen können.
94. 94 peakace.agency Meta stellte vor Kurzem Shepherd LLM vor Quelle: https://pa.ag/3YVVDch Shepherd LLM is designed to critique model responses, and suggest refine- ments, in order to power more accurate generative AI outputs. Ein neues generatives KI-Tool zur Verbesserung der Genauigkeit von KI-basierten Antworten
95. 95 peakace.agency LLMs werden künftig APIs / Daten von Dritten für bessere Ergebnisse nutzen Aus diesem Paper geht hervor, dass LMs sich selbst beibringen können, externe Tools über einfache APIs zu nutzen. Toolformer: A model trained to decide which APIs to call, when to call them, what arguments to pass, and how to best incorporate the results into future token prediction. Quelle: https://pa.ag/3T1Nq3z
96. 96 peakace.agency RecallM erhält anpassungs- und Update-fähigen Langzeit- speicher (aka „Gedächtnis“) Quelle: https://pa.ag/3OWUbSr An ideal AGI system should be able to adapt, compre- hend and continually learn when presented with new information, this is something that LLMs cannot achieve on their own. Die Einführung eines Langzeitspeichers für LLMs würde die Grundlage für kontinuierliches Lernen und komplexes Denken schaffen und somit das Erlernen von sequenziellen und zeitlichen Abhängigkeiten ermöglichen.
97. 97 peakace.agency RetNet von MS: der lang erwartete Transformers-Killer? Retentive Network macht das „unmögliche Dreieck“ möglich, das gleichzeitig Trainingsparallelität, gute Leistung und niedrige Inferenzkosten erzielt. Könnte das die neue Basisarchitektur für LLMs sein? Quellen: https://pa.ag/47NK4rX & https://pa.ag/3PvwLVJ Die Ergebnisse sind um ein Vielfaches besser als bei derzeitigen Implementierungen. Das könnte enorme Auswirkungen haben, wenn andere Teams lernen, das zu reproduzieren.
98. Neue Player Sowohl große als auch kleine Unternehmen werden ihr Stück vom Kuchen abhaben wollen.
99. 99 peakace.agency Amazon glänzt mit beeindruckenden ersten Ergebnissen Die eigene (zugegebenermaßen ziemlich schreckliche) On-Site-Suche wird wahrscheinlich ebenfalls einem kompletten Makeover unterzogen: Amazon has released a new LM that outperforms GPT- 3.5 on ScienceQA by 16 percentage points, or with 75.1% to 91.6% accuracy Quellen: https://pa.ag/3Fl5ZKe & https://pa.ag/3WUrTfb
100. 100 peakace.agency Schon mal Claude.ai oder Pi.ai ausprobiert? Claude2 (Anthropic) und Pi.ai (Inflection AI) verfolgen einen etwas anderen Ansatz als ChatGPT. Beide konzentrieren sich (angeblich) darauf, empathischer, hilfsbereiter und freundlicher zu sein: Quellen: https://pa.ag/44FY3wU & https://pa.ag/45ZMh1o Beide Plattformen sind speziell für die Beteiligung an Dialogen im Chat-Stil konzipiert, im Gegensatz zu einem Modell für allgemeine Interessen wie ChatGPT.
101. 101 peakace.agency In der Open-Source-Community tut sich eine ganze Menge Quellen: https://pa.ag/3L2qUEV & https://pa.ag/3L2qWN3 The uncomfortable truth is, we [Google] aren’t positioned to win this arms race and neither is OpenAI. […] a third faction has been quietly eating our lunch. I’m talking, of course, about open source. Luke Sernau, Google Engineer
102. 102 peakace.agency Mistral 7B: offenes KI-Modell kommt ohne ethische Grenzen Quellen: https://pa.ag/3Q9KQbQ & https://pa.ag/45pSi74 So beantwortet das quelloffene KI-Modell selbst Fragen zu hochgradig kriminellen Aktivitäten ohne jegliche Hemmungen. Rückgängig machen lässt sich das nun nicht mehr, denn Mistral hat das Sprachmodell als Torrent veröffentlicht.
103. 103 peakace.agency Und was kommt danach?
104. 104 peakace.agency Eine ganz klare Leseempfehlung „Inside the Revolution at OpenAI“ ist ein absolut faszinierender 12.000 Wörter langer Artikel über OpenAI, Altman und seine Pläne zur Schaffung einer neuen Form von Intelligenz – für das Allgemeinwohl. Quelle: https://pa.ag/3qPOKN8 Sam Altman […] telling me about a dangerous AI that his company had built but would never release. His employees, […] often lose sleep worrying about the AIs they might one day release without fully appreciating their dangers.
105. 105 peakace.agency AGI: Advanced General Intelligence? „As our systems get closer to AGI, we are becoming increasingly cautious with the creation and deployment of our models.” Quelle: https://pa.ag/3mxjSOU The first AGI will be just a point along the continuum of intelligence. We think it’s likely that progress will continue from there […] If this is true, the world could become extremely different from how it is today, and the risks could be extraordinary. A misaligned super intelligent AGI could cause grievous harm to the world; an autocratic regime with a decisive superintelligence lead could do that too.
106. 106 peakace.agency Der beste Teil in dem OpenAI-Artikel? Quelle: https://pa.ag/3mxjSOU Successfully transitioning to a world with superintelligence is perhaps the most important— and hopeful, and scary—project in human history. Success is far from guaranteed, and the stakes (boundless downside and boundless upside) will hopefully unite all of us.
107. 107 peakace.agency ...hopefully.
108. 108 peakace.agency Erster KI-gesteuerter Kampfjet kann Dogfights austragen Im Rahmen eines gemeinsamen Projekts der DARPA und der US Air Force wurde das Spezialflugzeug X-62 Vista zum ersten taktischen Flugzeug, das von einer künstlichen Intelligenz gesteuert wurde: The jet was under the control of one of four different AI algorithms at any given time during the tests. […] This included dogfighting in simulated combat missions, as well as takeoffs and landings Quelle: https://pa.ag/3JtRtlS
109. 109 peakace.agency Sind wir dafür wirklich bereit?
110. jobs.peakace.agency Bereit für den nächsten Schritt in deiner Karriere? pa.ag/kihp Vielen Dank! „AI High Performer von morgen“