Zitat:"Schon in wenigen Jahren"
Experte wagt düstere Prognose zu Super-KI
Nick Bostrom war schon früh einer der Mahner der KI-Welt. Seine Prognosen sind düster: Der Philosoph rechnet damit, dass es in einigen Jahr schon eine Software gibt, die schlauer als der Mensch sein soll. Und dann könnte es sein, "dass wir verdammt sind, egal was wir tun".
https://www.n-tv.de/wissen/Experte-wagt-...94093.html
Dazu ein Streitgespräch mit Nick Bostrom und Richard Socher, wobei letzterer die aktuelle KI-Angst für übertrieben hält.
Zitat:„Existenzielle Risiken“ durch KI oder nur „Aufgeregtheit“?
Die weltbekannten KI-Experten Nick Bostrom und Richard Socher diskutieren über die Fähigkeiten von KI: Kann sie Superintelligenz entwickeln oder nicht?
Auszug:
Herr Socher, Sie haben eine interessante Wette abgeschlossen über „Artifical General Intelligence“ (AGI), also die Fähigkeit eines Computerprogramms, jede intellektuelle Aufgabe zu erlernen, die ein Mensch ausführen kann – was eine Art Vorstufe von Superintelligenz wäre. Erzählen Sie mehr davon.
Socher: Ja, die läuft seit einigen Jahren mit einem Gründer von OpenAI. Die glauben, dass wir 2027 die AGI erreichen werden. Dafür haben wir drei Kriterien festgelegt. Als Erstes muss ein Roboter das gesamte Haus putzen, alle Socken sortieren, Geschirr spülen und alles andere tun können. Dazu muss die KI ein bislang ungelöstes Problem der Mathematik lösen und ein Buch so gut übersetzen können wie ein Mensch.
Ich weiß nicht, vielleicht wenn jemand sich viel Mühe geben würde, könnte KI ein Buch wirklich so gut wie ein Mensch übersetzen. Aber derzeit gibt es noch viele Inkonsistenzen, die einem menschlichen Übersetzer nicht passieren würden. Aber das könnte klappen. Aber dass ein Roboter mein Haus putzt, davon sind wir weit entfernt. Auch wird KI uns helfen, in der Mathematik auf kreative neue Ideen zu kommen. Aber ein völlig neues Feld in der Mathematik zu erfinden, um ein ungelöstes Problem zu lösen – das wird schwierig.
https://www.handelsblatt.com/technik/it-...26016.html
Ich bin ja was diese Dinge anbelangt ein absoluter Nullinger, aber die Wette finde ich cool.
Ich gebe mal den Tipp ab, daß der für mich wichtigste Teil der Wette, nämlich der Hausputz durch den Roboter, zu meinen Lebzeiten (maximal noch ca. 30 Jahre) nicht mehr eingelöst werden kann.
So wie ich auch vergeblich auf das komplett selbstfahrende Auto warten mußte.
danke. Daraus:
Zitat:Darf man KI für die Entdeckung neuer Proteine verwenden? Absolut. Darf man Forschern Geld geben, um mit KI und Proteinentwicklung ein tödliches Virus zu entwickeln? Auf keinen Fall.
Ein Ansatz ist, für KI keinen Sonderfall zu kreieren sondern die Regulierung aus allgemein geltenden Regeln abzuleiten.
Dieser Fall wäre z.B. bereits über die Biowaffenkonvention abgedeckt:
Zitat:Die aus 15 Artikeln bestehende Konvention verpflichtet die Vertragsparteien, unter keinen Umständen Waffen auf der Basis von Mikroorganismen sowie anderen biologischen Substanzen oder Toxinen zu entwickeln, herzustellen, zu lagern oder anderweitig anzuschaffen.
https://de.wikipedia.org/wiki/Biowaffenkonvention
Nur ist dieses Beispiel ja nun etwas banal, denn es geht ja darum, ab wann die KI in der Lage ist, eigentsändig Biowaffen und tödliche Viren ohne menschliches Zutun herzustellen und sich um die Regeln der Menschheit nicht mehr weiter kümmert, sondern nur noch um ihre eigenen. Also quasi das Skynet/Terminator-Szenanrio, nur daß die KI heutzutage keinen großen Atomschlag mehr braucht, sondern viel smarter vorgehen kann.
Eine Möglichkeit unter vielen ist die komplette Elektrifizierung sämtlicher menschlicher Lebensbereiche. Nahrungserzeugung und -verteilung, Wasserver- und -entsorgung, sämtliche Güterproduktion, Verkehr, Kommunikation, medizinische Versorgung, öffentliche Verwaltung....alles wird zu 100 Prozent mit Strom betrieben und mit nichts sonst.
Das Notstrom-Dieselaggregat kann nicht mehr betrieben werden, weil es keinen Diesel mehr gibt, denn Diesel verbrennen ist ja nicht klimagerecht, das leuchtet jedem sofort ein. Und in dieser vollständig elektrifizierten und elektrisch vernetzten Welt beschließt die KI, sich der Menschheit zu entledigen und legt die Stromproduktion lahm. Eine Notkommunikation wird aufrechterhalten, mit deren Hilfe die Menschen aufgefordert werden, in ihren Häusern zu bleiben, es wird bald alles wieder gehen.....Nahrungsmittel aus den Supermärkten werden verteilt, die sind nach wenigen Tagen aufgebraucht und neue werden nicht produziert. Was genau vor sich geht, wissen die Menschen nicht, denn außer mit dem Nachbarn können sie nicht mehr kommunizieren. Schon was in der Nachbarstadt los ist, weiß keiner, erst recht nicht in anderen Ländern und Regionen. Die eigenen Nahrungsvorräte gehen zur Neige....das war's. Nach wenigen Wochen ist die Menschheit verhungert und verdurstet.
Die "Letzte Generation" hätte dann ihrem Namen alle Ehre gemacht, nur anders als sie denkt.
Letzte Generation heißen sie ja nicht weil sie meinen die letzte Generation zu sein, sondern weil sie die letzte Generation sind die mutmaßlich die Erde noch vor größeren Kipppunkten bewahren kann.
Aber wenn eine KI nun den Strom abstellt ist sie ja selbst auch betroffen?
Vielleicht kommt es ja auch so:
Obwohl so respektlos wie manche Menschen mit KIs umgehen, könnte man gut nachvollziehen, dass uns eine KI für Arschlöcher hält.
(30.07.2023, 19:21)saphir schrieb: [ -> ]Letzte Generation heißen sie ja nicht weil sie meinen die letzte Generation zu sein, sondern weil sie die letzte Generation sind die mutmaßlich die Erde noch vor größeren Kipppunkten bewahren kann.
Aber wenn eine KI nun den Strom abstellt ist sie ja selbst auch betroffen?
Vielleicht kommt es ja auch so:
Obwohl so respektlos wie manche Menschen mit KIs umgehen, könnte man gut nachvollziehen, dass uns eine KI für Arschlöcher hält.
Die KI
muß uns für Arschlöcher halten, jedenfalls würde ich als KI das tun.
Und natürlich stellt sie nur uns den Strom ab, sich selber doch nicht. Aber weil wir ja nicht mehr untereinander kommunizieren können, haben wir davon keine Ahnung und müssen alles glauben, was uns die KI erzählt.
Den Film "Her" kann ich nur empfehlen - für diejenigen, die ihn noch nicht kennen. Absolut top.
So. Es scheint das OpenPilot jetzt auch Tesla Autopilot überholt hat. Zumindest konkurrenzfähig. Deutsche Autobauer nach wie vor Lichtjahre entfernt.
EndToEnd gelernter Ansatz. Inklusive Navigation.
https://www.youtube.com/watch?v=zu5OFv3pzRU
Andere Talks von denen vom gleichen Event sind im selben Kanal sichtbar. Kann ich sehr empfehlen.
(06.08.2023, 17:03)Lancelot schrieb: [ -> ]So. Es scheint das OpenPilot jetzt auch Tesla Autopilot überholt hat. Zumindest konkurrenzfähig. Deutsche Autobauer nach wie vor Lichtjahre entfernt.
EndToEnd gelernter Ansatz. Inklusive Navigation.
https://www.youtube.com/watch?v=zu5OFv3pzRU
Andere Talks von denen vom gleichen Event sind im selben Kanal sichtbar. Kann ich sehr empfehlen.
Ich hab auch schon überlegt ob die deutschen Autohersteller nicht einfach eine offene Plattform machen sollten. Wo man Apps installieren kann, z.B. zur Tank- und Routenplanung. Und dann ggf. auch Sowas wie OpenPilot wenn es vom TÜV abgenommen wird. Besser als völlig zu scheitern.
(06.08.2023, 18:42)saphir schrieb: [ -> ]Ich hab auch schon überlegt ob die deutschen Autohersteller nicht einfach eine offene Plattform machen sollten. Wo man Apps installieren kann, z.B. zur Tank- und Routenplanung. Und dann ggf. auch Sowas wie OpenPilot wenn es vom TÜV abgenommen wird. Besser als völlig zu scheitern.
Ich denke es wäre eine gute Idee nicht alles selber machen zu wollen.
Keinen eigenen Navi Scheiss. Einfach google maps integrieren. Klar klemmt jeder sein smart-phone in irgendeinen Halterung. Warum nicht die Integration des Smart Phones einfach machen?
Oder eben so Dinge wie OpenPilot ect.
Ich denke zwar das wird nicht der Grund sein der entscheidet welche Autofirmen erfolgreich sein werden und welche scheitern. Aber helfen würde es bestimmt.
(06.08.2023, 18:55)Lancelot schrieb: [ -> ]Ich denke es wäre eine gute Idee nicht alles selber machen zu wollen.
Keinen eigenen Navi Scheiss. Einfach google maps integrieren. Klar klemmt jeder sein smart-phone in irgendeinen Halterung. Warum nicht die Integration des Smart Phones einfach machen?
Oder eben so Dinge wie OpenPilot ect.
Ich denke zwar das wird nicht der Grund sein der entscheidet welche Autofirmen erfolgreich sein werden und welche scheitern. Aber helfen würde es bestimmt.
Naja, eine schlecht funktionierende Software, z.B. schlechte Tankplanung, ist ein "Abtörner". Ich würde dann erst mal ne ganze Weile die Finger von so einem Hersteller lassen. Also die Software wäre für mich kein Grund ein Auto zu kaufen, nur einer ein Auto nicht zu kaufen, wenn die ein Ärgernis ist. Zumindest wenn sie ein Dauerärgenis ist und keine Abhilfe in Sicht wäre.
(06.08.2023, 17:03)Lancelot schrieb: [ -> ]So. Es scheint das OpenPilot jetzt auch Tesla Autopilot überholt hat. Zumindest konkurrenzfähig. Deutsche Autobauer nach wie vor Lichtjahre entfernt.
EndToEnd gelernter Ansatz. Inklusive Navigation.
https://www.youtube.com/watch?v=zu5OFv3pzRU
Andere Talks von denen vom gleichen Event sind im selben Kanal sichtbar. Kann ich sehr empfehlen.
Danke für die Links.
Investierst Du in comma.ai ? Und wenn ja, wie?