Edge AI: Wie LLMs am Smartphone laufen - feat. Vivien von Objectbox

Wenn wir ChatGPT und Co heute mit Aufgaben beauftragne, dann wird
das in der Cloud von Microsoft, Google und Amazon erledigt. Doch
das muss nicht so sein: Edge AI verspricht, dass KI-Modelle lokal
auf Smartphone oder Notebook Aufträge erledigen können, ohne
Daten in die Cloud senden zu müssen. Mittendrin in dem Trend -
Objectbox von Gründerin Vivien Dollinger aus
Berlin - und mit ihr wollen wir heute über Edge AI und
alles was dazu gehört sprechen. Die Themen:


- Edge AI vs. Cloud


- RAG - Retrieval Augmented Generation


- Vectordatenbaken als Datenbunker


- Kleine LLMs direkt am Gerät


- Worauf Apple setzt


- Die Pläne von Objectbox


Botschaft unseres Sponsors:


The Green 100 am 6. Juni ist eine Veranstaltung des Klima- und
Energiefonds. Sie findet bereits zum zweiten Mal statt. Heuer
erstmals in Kooperation mit den Impact Days. Ziel ist es,
vermehrt Klimaschutzprojekte zur Umsetzung zu bringen und
privates Kapital für sie zu mobilisieren. Im Rahmen von The Green
100 präsentieren sich Ausstellende aus den Bereichen grüne
Finanzierung und Veranlagung. Die Angebote richten sich zum einen
an grüne Unternehmen und geben Unterstützung auf der Suche nach
Kapital oder bei der wirtschaftlichen Darstellung der Projekte.
Zum anderen an Privatpersonen, die ihr Geld grün veranlagen und
mehr rund um Greenwashing erfahren möchten. Begleitend wird ein
abwechslungsreiches Rahmenprogramm rund um das Thema Green
Finance stattfinden. Alle Infos und kostenlose Tickets findet ihr
unter www.thegreen100.com


Wenn dir diese Folge gefallen hat, lass uns doch vier, fünf
Sterne als Bewertung da und folge dem Podcast auf Spotify, Apple
Music und Co. Für Anregungen, Kritik, Feedback oder Wünsche zu
künftigen Gästen schick uns jederzeit gerne eine Mail
an ⁠⁠⁠⁠⁠⁠⁠feedback@trendingtopics.at⁠⁠⁠⁠⁠⁠⁠.