News und Infos zu KI - Künstliche Intelligenz

Also ich habe mir das Video noch ein zweites Mal reingezogen (ohne diese albernen Bot-Tänze, da stimme ich Lancelot absolut zu, den Bezug zu KI sehe ich da auch nicht), vor allem den Abschnitt über GPT3.

Etwas stutzig gemacht hat mich sein Smartphone-Wortergänzungs-Beispiel als Vergleich dazu. Soll das die sprachliche KI sein? Besteht die letztlich nur aus einer giganatischen Wissensdatenbank, die es dem Bot ermöglicht, auf jede Frage eine vermeintlich kluge - besser gesagt sachlich richtige - Antwort zu geben, vergleichbar mit kenntnisreichen Menschen, die man als wandelnde Lexika bezeichnet? Die mögen "klug" sein im umgangssprachlichen Sinne - aber nicht unbedingt intelligent (obwohl es in der Praxis häufig zusammenfällt, warum auch immer). Vom selbständigen Denken, Analogien bilden, Phantasie entwickeln etc. ist das aber noch eine Ecke weg. Leider wird das auch in dem Vortrag nicht näher thematisiert.

Das sind im Moment noch zwei unterschiedliche Sachen. "Etwas zu sagen" und "schlaue Sachen zu sagen". 

Text/Sprachverarbeitung ist tatsächlich ein Generative Model. Die Wortergänzung im Smartphone ist tatsächlich NLP light. 

Eine vernünftige vorgeschlagene Ergänzung ist ja erstmal eine Prognose was du eventuell sagen willst. Wir Menschen sind extrem gut darin und das ist auch tatsächlich wichtig um Kontext zu verstehen. Sprache ist zum Glück sehr low entropy. Sie trägt wenig Information. Das erkennst du gut daran, wie gut man sie komprimieren kann (.zip).

Unser statistisches Verständnis von Sprache ist wohl erstaunlich eng verbunden zum Thema Textverständnis. Lies doch mal das angehängte. Erstaunlich, oder? Ähnliches gilt auch für Lückentexte. 

"Hnäsel und Geetrl sind die Kidenr eenis aremn Hlälrezlfos, der mit seiner Faru im Wlad lbet. Als die Not zu groß wrid, überredet sie ierhn Mann, die bieedn Keidnr ncah der Aeibrt im Wlad zucürk zu laessn. Der Hzoleflälr fürht die bdeien am nächsetn Tag in den Wlad. Doch Heäsnl hat die Etelrn beacushlt und legt eine Supr aus kenlien wßeein Snteein, ananhd dreer die Kidenr zdurüknfeicn. So kmmot es, dsas der Paln der Mettur serhictet. Dcoh der zteiwe Vesurch gneiglt: Deiess Mal haben Häensl und Gertel nur enie Scbhiee Bort mit, die Hnäsel zcklrrbeöet, um eine Spur zu leegn. Dseie wird jcodeh von Vlgeön gesrfeesn. Dcdrauh fdenin die Kndier nhict mher nach Hause und vrrireen scih. Am ditrten Tag fedinn die beedin ein Huhäecsn, das gnaz aus Brot, Khcuen und Zuekcr hlrseletget ist. Zcäusnht bcreehn sie Telie des Hauses ab, um irehn Hugenr zu sletlin. In diesem Haus lebt jodech eine Hexe, die eine Mfiherrcsseensnen ist."