Vergangene Woche fand in San Francisco die AI Conference statt, eine der weltweit größten Veranstaltungen zum Thema Künstliche Intelligenz. Player aus aller Welt versammeln sich hier, um über die neuesten Innovationen in ihrem Feld zu sprechen und sich zu vernetzen. Besonders im Jahr 2023, wo durch ChatGPT und Co ein massiver AI-Boom entstanden ist, hatte die Silicon Valley- Konferenz große Relevanz. In diesem Jahr war auch Österreich bei der AI Conference vertreten, denn Bitpanda war live dabei. Wir haben mit Christian Trummer, Mitgründer und Chief Scientist bei Bitpanda, über die Veranstaltung gesprochen.

Bitpanda: Das Unicorn auf der AI Conference in San Francisco

Trending Topics: Wie hast du die AI-Konferenz in San Francisco erlebt?

Christian Trummer: Es war super spannend, zu sehen, was sich in der AI-Hauptstadt sich tut. San Francisco ist das Epizentrum für KI-Startups und alles, was mit AI-Technologie aktuell zu tun hat. Ich war mit zwei anderen Engineers von unserem AI-Team dort und muss wirklich sagen, es herrscht dort eine richtige Goldgräberstimmung. Es gibt extrem viele Meetups zum Thema KI, das war auch einer der Gründe, warum wir gleich eine ganze Woche in San Francisco geblieben sind.

Es gibt unglaublich viele Founder, die versuchen, beim AI-Hype mitzumachen. Einerseits gibt es die alteingesessenen Firmen, die mit AI smartere Produkte bauen wollen, andererseits gibt es natürlich auch ganz viele junge Leute, die als Ein-Personen-Firmen ihre Ideen pitchen. Das Ganze erinnert mich eigentlich ein bisschen an den Blockchain-Hype von 2018, damals wollte auch gefühlt jedes zweite Startup oder jedes zweite Unternehmen irgendwie Blockchain in sein Produkt einbringen.

Was sagst du zum aktuellen KI-Boom? Wie, glaubst du, wird er sich weiterentwickeln?

Diese Entwicklung ist noch in einem sehr frühen Stadium, besonders, was Large Language Models (LLMs) angeht. Es gibt hier gefühlt jede Woche neue Updates, neue Frameworks, es wird ganz viel rund um Tooling und Infrastruktur gebaut. Der LLM-Markt ist aber vielleicht mittlerweile gesättigt und es geht eher in Richtung kleinere, spezialisierte Modelle. Es ist nämlich schon bekannt, dass große Models relativ teuer im Betrieb sind und es einen Product-Fit geben muss, wo man diese Kosten rechtfertigen kann.

Aber grundsätzlich glaube ich, Generative AI als Technologie ist mittlerweile schon in der breiteren Bevölkerung angekommen. Allein bei uns in der Firma benutzen die Mitarbeiter:innen solche Tools täglich im Job, um produktiver und effizienter zu sein. ChatGPT ist nicht mehr ein bloßer Hype, sondern ein Standard-Tool, das man im Alltag verwendet. Aber auch hier ist noch viel Arbeit nötig, weil viele KI-Anwendungen noch relativ unzuverlässig sind.

Genau solche Probleme wie beispielsweise Halluzinationen rufen noch Skepsis hervor. Siehst du da derzeit schon eine Verbesserung?

Ja, definitiv. Es gibt gefühlt jede Woche Verbesserungen. Das größte Thema aktuell und auch eines der größten Themen auf der AI Conference war RAG, also Retrieval Augmented Generation. Da geht es darum, dass man Informationen, die man im LLM verarbeiten möchte, zuerst aus einem anderen System herausbekommt. Weil die Prompts dadurch im richtigen Kontext stehen, sollen die Ergebnisse frei von Halluzinationen sein. Und in diesen Schritten ist eigentlich das LLM nur ein Teil von mehreren Teilen. Viel wichtiger ist, wo man die Daten herkriegt, die man dem LLM geben möchte. Es gibt gerade viele Startups, die daran arbeiten, wie man Daten in den entsprechenden Datenbanken vernünftig speichern kann.

Bezüglich der AI Conference: Welche großen Player waren denn anwesend und was waren spannende Themen?

Es gab viele Talks von verschiedenen bekannten AI-Infrastruktur- und Tooling-Anbietern. Zu den prominenten Namen gehörten unter anderem Langchain, LlamaIndex oder Hugging Face. Darüber hinaus gab es noch Keynotes von zum Beispiel Nvidia oder Google. Zu den Themen gehörte zum Beispiel der Produktiveinsatz von AI-Produkten. Auch interessant: Es kam die Diskussion darüber auf, ob KI in Zukunft zu einer Überflusswirtschaft führt. Von Bildung über Texte, Grafiken, Kunst und so weiter, solche Inhalte wird es in Zukunft wahrscheinlich im Überfluss geben. Wichtig ist dann die Qualität und nicht die Quantität.

Das klingt ja fast eher nach einer Warnung als einer positiven Zukunftsvision.

Naja, es ist nun einmal eine Veränderung, die ist nicht zwingend gut oder schlecht. Es liegt einfach nur in unserer Verantwortung, nicht nur Dinge zu erzeugen, sondern darauf zu achten, was man erzeugt.

Was konntest du für Bitpanda von der Konferenz mitnehmen?

Einer der Hauptgründe, warum wir eigentlich dorthin gefahren sind, war, dass wir unsere Forschung der letzten Monate validieren wollten. Wir sind in diese Szene eingetaucht, die ja relativ am Anfang steht, wo sich immer wieder die Technologie verändert und man aufpassen muss, dass man sich nicht sofort auf irgendein Framework oder Technologie fokussiert, die schnell veraltet ist. Und für uns war es schön zu sehen, dass wir auf der technischen Seite wirklich spitzenmäßig sind. Uns hat auch der Vibe im Silicon Valley begeistert, diese Energie findet man in Österreich in dieser Form nicht.

Kommen wir zu Bitpanda AI. Was macht diese Abteilung konkret? Bitpanda ist ja für Krypto bekannt, inwiefern ist Künstliche Intelligenz für euch relevant?

Wir haben eigentlich in den ersten Jahren von Bitpanda sehr wenig Richtung Data Engineering und Data Science gemacht, doch mit unserem Wachstum ist dieser Bereich jedoch viel wichtiger geworden. Und jetzt versuchen wir, einen Schritt weiter zu gehen und smarte Produkte und Features zu bauen. Wir haben bereits ein System, mit dem Kund:innen relativ einfach in Assets investieren können.

Wir wollen nun einen personalisierten Wealth Manager für alle User:innen entwickeln. Wir möchten einfach den Service, den man als „High Net Worth Individual“ bei Privatbanken bekommt, unseren Kund:innen zur Verfügung stellen. Und da geht es ganz viel um personalisierte Ansprache, um Services neben dem reinen Asset Trading zur Verfügung zu stellen. Unser Wealth Manager soll ein Motivator, Guide und Safeguard sein. Es geht hier nicht um Empfehlungen für einzelne Aktie oder Coins, sondern eher um einen Sparplan oder eine Strategie hinter den Investmententscheidungen. Der Wealth Manager wäre im Prinzip ein Sparring Partner, der Ideen validieren oder neue Ideen bringen kann.

Du hast vorhin erwähnt, dass in der KI-Szene eine „Goldgräber-Stimmung“ herrscht. Könnte dieser Hype auch zur Blase werden oder zumindest einen Dämpfer erleiden?

Also aktuell geht zum Beispiel das VC-Funding hauptsächlich in Richtung AI-Startups. Und ja, man kann diskutieren, ob die Bewertungen gerechtfertigt sind. Es gibt schon sehr viele Anwendungsbereiche für generative AI, aber es gibt auch Limitierungen, dessen muss man sich bewusst sein. Und man kann natürlich darauf setzen, dass die Technologie sich in Zukunft so weit verbessert, dass zum Beispiel automatisierte Agents wirklichen Mehrwert bieten. Ich glaube, es geht in die Richtung, dass man aktuell eher versucht, auf dem Markt aktiv zu sein und nicht zu spät zu kommen. Es wird sich zeigen, was am Ende möglich ist.

Natürlich ist es nicht verwunderlich, dass es jetzt einen KI-Boom gibt. Generative AI-Technologie hat jetzt KI-Technologie für wirklich jede:n zugänglich gemacht. Ganz normale Anwender:innen können mit diesen Tools jetzt in natürlicher Sprache kommunizieren und smarte Ergebnisse erhalten. Man muss kein:e Expert:in sein, um ein Machine Learning Modell zu trainieren und Resultate zu erreichen.

Wie sieht die Zukunft von Bitpanda AI aus? Woran arbeitet ihr als nächstes?

Wir konzentrieren uns nun auf diesen Wealth Manager. Wir erforschen gerade die einzelnen Skills, die so ein KI-Helfer haben muss. User:innen sollen mit diesem wirklich interaktiv arbeiten können. Da geht es Richtung Portfolio Allocation, News Summarys oder smarte Suchmaschinen.