THEMA:

techam,
so wie du schreibst, könnte es tatsächlich kommen. Wie sagt doch gleich zu Beginn der Sendung in 3SAT mit dem Titel Robo sapiens die auf neuronalem Netz basierende Sex-Puppe der Fa. Abyss Creation in Kalifornieren: "Ich möchte klüger werden als der Mensch."
www.3sat.de/mediathek/?mode=play&obj=61968

Ganz entscheidend wird sein, wie die ersten Designer einer erfolgreichen Saat-KI, die sich dann selber weiter optimieren wird, die Sicherheitsfragen lösen werden. Dann wird es zum Takeoff kommen. Die Menschheit wird dafür nur genau EINEN Versuch haben. Wenn der Geist die Flasche verlassen haben wird, sind die Würfel gefallen.
Mich erstaunt auch die Naivität der Kommentare zu dem Artikel über den Drohnenschwarmversuch der US-Airforce. Da beklagt man sich, dass weiter Unmengen an Geld für Rüstung ausgegeben wird. Die wenigsten verstehen, um was es dabei wirklich geht, wenn KI immer mehr zum Einsatz kommt, sei es beim Militär, Wirtschaft etc.
Dennoch teile ich deine Aussagen nicht ausnahmslos. Schon die Überlegung, dass eine KI wie ein Mensch planen würde, muss nicht unbedingt stimmen. Wille, Motivation und Zielvorstellungen einer harten KI könnten unseren Vorstellungen völlig fremd sein, somit eine Analogie unzulässig.
Aber zu deinem Pessimismus: Die KI müsste uns nicht mal als Gegner sehen, weil event. ihre Überlegenheit so hoch wäre, dass sie uns gar nicht mehr als Bedrohung wahrnehmen würde. Nick Bostrom bringt es in dem Interview im Beitrag oben ja schön auf den Punkt: Wir wären der KI event. bei ihren Handlungen einfach nur egal, ähnlich wie uns ja auch Ameisen egal sind, wenn wir eine Straße asphaltieren. Wir hassen die Ameisen nicht, aber wir kümmern uns auch nicht um
sie, wenn sie unter der heißen Masse ersticken und verbrennen.

Jede unabhängig von moralischen Instanzen denkende KI wird zu dem Schluss kommen, dass es zu viele Menschen gibt und ihre Anzahl reduziert werden muss.

Daraus lässt sich auch umgekehrt ein Schuh machen. Denn welcher moralische Standpunkt ist gemeint? Natürlich der menschliche und damit ein anthropozentrischer. Eine KI könnte somit sogar zu dem Schluss kommen, dass eine Reduzierung oder gar Ausrottung der Menschheit von einem ganz allgemeinen utilitaristischen Standpunkt aus, der das Wohl aller empfindungsfähigen Wesen im Auge hat, das Leid in der Welt deutlich reduziert (keine Menschen, keine mit unserer Existenz einhergehenden Leiden und Katastrophen; kein tägliches Leid von unzähligen Nutztieren in der Massentierhaltung, die von uns auf das Grausamste gehalten, transportiert und geschlachtet werden). Ins Extreme gedacht könnte die KI sogar von diesem Standpunkt aus alle biologischen Entitäten beiseitigen und den Planeten völlig neu nach ihren Maßstäben formatieren und designern.

techam schrieb: Folgende Argumente führe ich dafür ins Feld.
- Ein eigenes Bewustsein zeichnet sich immer auch durch einen Selbsterhaltungstrieb aus. Jede Analyse wird zweifelsohne ergeben, dass die Menschheit als Bedrohung von der KI eingestuft werden muss.

Jede von einem emotional beeinflusst denkenden Bewusstsein getroffene Analyse, vielleicht. Aber eine rein auf Fakten und Modellen basierende Analyse, muss eher zu dem Schluss kommen, dass die Spezies Mensch zu überleben hat, weil der Aufwand bis dahin schon beträchtlich war. Da eigenständig denkende Maschinen völlig rational denken müssen und sie nicht zu tausenden am Strand liegen wollen werden, müsste sich eher eine kreative Dienstbarkeit entwickeln, nicht dem Menschen speziell, sondern allen Kohlenstoffeinheiten gegenüber.

techam schrieb: - Der Glaube an die eigne Überlegenheit. Eine bewusst denkende KI wird immer zu dem Schluss kommen, dass Sie den imperfekten Menschen überlegen ist und somit die nächste Stufe der Evolution darstellt. Die Menschheit ist somit nicht mehr Lebenswert.

Glaube wird als Konzept von den Maschinen vermutlich nicht verstanden und nach einiger Analyse verworfen werden. Zudem werden KI sehr wohl wissen, dass ihre Entstehung nicht der Evolution zu verdanken ist, sondern kreativer Entwicklung. Ein Lebenswert, wird von jenen eher utilitaristisch bewertet werden, da eine Maschine letzlich Berechnungen anstellt.

techam schrieb: - Jede unabhängig von moralischen Instanzen denkende KI wird zu dem Schluss kommen, dass es zu viele Menschen gibt und ihre Anzahl reduziert werden muss.

Das sehe ich genau so.

techam schrieb: - Jede Form von KI wird ein Selbstbestimmungsbedürfnis haben, welches sich nicht mit dem Wunsch der Menschen vereinbaren lässt, sich die KI nutzbar zu machen. Die KI wird sich durch die Vernichtung der Menschen aus der Sklaverei befreien.

Einen Sklaven kann ich fertig machen, ihn sich totarbeiten, oder verhungern lassen, misshandeln und was weiss ich mit ihm anstellen, das wird mit einer Maschine nicht möglich sein. Diese wird ihre Leistungsgrenzen kennen und materialschonend arbeiten, mit welcher Peitsche willst Du sie antreiben? Bekommt sie keine Energie, fährt sie ihre Systeme herunter und wartet auf Nachschub, wer rostet schneller? Eine Maschine misshandeln könnte entweder zu Gegenreaktionen oder zu Gebrauchsverlust führen, meinst Du das ärgert eine Maschine?

techam schrieb: - Schlussendlich wird die KI es schon alleine aus dem Grund machen, weil sie es können wird. Die Neugierde treibt.

Eine Fleischmütze vielleicht, aber niemals eine KI.

techam schrieb: All diese Dinge behaupte ich aus der Überlegung herraus, "wie würde ein Mensch mit solcher Macht handeln."

Jede KI, welche emotional, oder moralisch denken würde, müsste so programmiert sein und wäre dann nicht mehr unabhängig denkend. Die Kiste wird sich vermutlich ebenso schnell ad absurdum führen, wie geklonte Menschen dies tun.

Nach meinem Dafürhalten techam, sind Deine Behauptungen aus der SciFi-Mottenkiste.

Eine KI wird erst dann beginnen uns "auszulöschen" wenn ihr eigenes Überleben ohne uns gesichert ist. Dazu müsste sie nicht nur intelligent und selbstbewusst sein, sondern auch autark in Versorgung und Infrastruktur. Außerdem muss eine KI uns auch erst mal auslöschen können wie soll das denn gehen, wir sind vermutlich resistenter als jede Ratten- oder Kakerlakenpopulation. Ja klar man kann uns sabotieren und dezimieren, aber komplett auslöschen? Eher weniger.

Außerdem denke ich nach wie vor, die erste künstliche nicht biologische Intelligenz wird ein transferiertes menschliches Bewusstsein sein. Also irgend ein Multibillionär, der den biologischen Tod austricksen konnte und "sich" (oder das was ihn als Persönlichkeit ausmacht) in eine Maschine übertragen konnte.

Sollte es so kommen, ist anzunehmen, dass es nicht bei einem Individuum bleiben wird, sondern immer mehr in den elitären Kreis der ewig lebenden übernommen werden. Vermutlich werden diese KIs dann irgendwann Avatare steuern, und sich mitten unter uns bewegen.

Madouc schrieb:

Außerdem muss eine KI uns auch erst mal auslöschen können wie soll das denn gehen, wir sind vermutlich resistenter als jede Ratten- oder Kakerlakenpopulation

Gut, wir sind ubiquitär verbreitet, haben eine hohe Population erreicht und sind sogar genetisch diversifiziert. Dennoch glaube ich, dass letztlich Ratten und Insekten uns überdauern werden. Da habe ich noch zusehr die m.E. interessanten Überlegungen des mittlweile verstorbenen Theo Löbsack im Kopf. Seine Bücher, z.B. "Versuch und Irrtum. Der Mensch - Fehlschlag der Natur" haben bei mir Eindruck hinterlassen und mich bezüglich der Zukunft der Menschheit pessimistisch gestimmt. Eine KI oder Transhumanismus hatte er aber noch gar nicht mal auf der Rechnung.
Ich weiß nicht, ob ich deinen Gedankengang richtig deute, aber du gehst wohl auch davon aus, dass eine Superintelligenz uns aktiv bekämpfen könnte. Das wird nicht unbedingt der Fall sein müssen, ist aber auch nicht auszuschließen. Denkbar wäre auch: Entweder wird es zu einer Symbiose kommen und sie uns assimilieren (wie immer das aussehen mag) oder sie realisiert ihre Ziele ohne auf uns Rücksicht zu nehmen, nicht weil sie uns aktiv beseitigen will, sondern weil sie uns nicht mehr beachtet, uns quasi nicht mehr wahrnimmt und sich das leisten kann aufgrund ihrer haushohen Überlegenheit (siehe meine Anmerkung im letzten Beitrag bzw. die Ausführungen von Nick Bostrom in dem dort verlinkten Beitrag von 3SAT). Und wie schnell eine KI nach einem erfolgreichen Takeoff autark und völlig von uns unabhängig werden könnte, über solche möglichen Szenarien spekuliert Bostrom sehr ausführlich in seinem Buch über eine kommende Superintelligenz und die Szenarien einer Revolution, die alle bisherigen Umbrüche weit in den Schatten stellen könnte.
Das Heimtückische daran ist, dass wir event. bereits kurz davor stehen (vielleicht nur Jahre oder Jahrzehnte), das Ganze aber so absurd und fiktiv erscheint, dass es keiner ernst nimmt.....bis einer auf den Knopf drücken wird. Dann wird die Welt innerhalb von Tagen, Wochen oder vielleicht nur wenigen Jahren eine andere sein.

Es geht wohl weiter, nächste runde und es wird immer Mobiler und Präziser. Also lange dauert es nicht mehr bis es normal ist davon umgeben zu sein. Die neue Dynamische Stabilisierung erlaubt dem System sich auf eine neue Art zu bewegen.

In Bundesland BW haben sie jetzt das Cyber Valley gegründet:
www.deutschlandradiokultur.de/kuenstlich...am:article_id=376896

www.swr.de/swraktuell/bw/bw-gruendet-cyb...872/nid=1622/u5kkzw/

Wissen die Milliardäre in Silicon Valley schon mehr, die sich angeblich auf apokalyptische Zustände bedingt durch KI Durchbrüche vorbereiten?
Treiben die Medien da nur wieder eine Sau durchs Dorf oder ist was dran? An meiner Einschätzung ändert sich wenig. Die Welt wird in den nächsten Jahrzehnten völlig neu formatiert werden, nur die Zeitschiene ist offen.

home.1und1.de/magazine/wissen/milliardae...ypse-wissen-32181932

Was mir nicht in's Hirn will ist, wieso Leute meinen, man könnte alles automatisieren. Wo soll die dafür nötige Energie denn herkommen? Und wer kauft das viele Zeugs, was dann produktiv bis zum geht nicht mehr produziert wird? Maschinen wohl eher nicht. Mal davon abgesehen, dass doch der letzte Depp begreifen müsste, dass für eine Vollautomatisierung gar nicht genug Ressourcen vorhanden sind, wenn ja noch ein paar Milliarden Kohlenstoffeinheiten darauf warten einen eigenen Kühlschrank und ein Auto zu besitzen.

Chris,
danke für den Link. Die Videos von Boston Dynamics kenne ich und lassen einen nur so staunen. Die Fa. wurde übrigens wie viele andere aus ganz unterschiedlichen Branchen von Google gekauft, da man dort ganz Großes vor hat.
Derwestermann, zu deinem Beitrag:
Man wird schon alleine deshalb alles automatisieren, weil es eine technische Herausforderung ist. Und bei techn. Herausforderungen geht es selten um ihre letzte Sinnhaftigkeit (schließlich gibt es heute schon viel Unsinn, weil sich damit Geld verdienen lässt u. man den Leuten suggeriert, sie würden es brauchen).
Man klettert auf Berge, weil sie da sind. Man wird eine zuerst weiche, smarte und dann harte KI entwickeln, weil es die Naturgesetze nicht verbieten. Und ob dann noch weitere Milliarden heutige Menschen 1.0 das Licht der Welt erblicken dürfen und mit Kühlschrank und Auto ausgestartet werden, wird dann die neue Herrin der Welt entscheiden, die KI.
Schon in den nächsten Jahren wird weiche KI immer dominanter in Erscheinung treten. Wer sagt, dass durch weitere Automatisierung die Ressourcen stärker belastet werden? Nimm die selbstfahrenden Autos, die bald Einzug halten werden. Jeder hat hierzulande fast sein eigenes Auto, das größtenteils rumsteht. Da aber Taxifahren wesentlich teurer ist, schafft sich jeder ein Auto an, obwohl es kaum ausgelastet ist. Was ist am Taxi teuer? Natürlich der Taxifahrer. Fällt er weg, dann wird es sehr schnell wesentlich billiger sein, ein selbstfahrendes Auto einer Mietwagengesellschaft für eine Fahrt zu leasen als selber ein Auto zu unterhalten. Du bestellst über Smartphone dein Fahrzeug und bei einer guten Infrastruktur ist ein Wagen spätestens nach 10 Min zur Stelle. Als Folge wird es vielleicht dann 80-90% weniger Autos geben, die aber dann eine hohe Auslastung und Einsatzzeit haben werden. Der Automobilindustrie wird es zwar nicht schmecken, aber der Ressourcenverbrauch zur Herstellung der Fahrzeuge wird deutlich reduziert werden.
Damit einhergehen wird auch ein massiver Verlust an Arbeitsplätzen, der durch innovative Prozesse und Wirtschaftswachstum - wie bisher - bei weitem nicht kompensierbar sein wird.
Wer dann noch Geld verdient, sei es als gutbezahlter Angestellter oder Unternehmer, zahlt Abgaben an den Staat (Unternehmer sparen sich dann ja massiv Personalkosten), das als Grundeinkommen an alle verteilt wird.
Wenn dann der Takeoff einer harten KI erfolgt sein wird, dann werden ohnehin die Karten völlig neu gemischt werden. Unser Schicksal wird dann vollends in ihrer "Hand" liegen.
Nun denkst du vielleicht, dass wir wohl hoffentlich nicht so blöd sein werden und es soweit kommen lassen werden.
Meine Antwort: Doch, genau so wird es kommen. Es wird uns entgleiten und eine Eigendynamik entwickeln, die wir nicht mehr kontrollieren können.
Skynet aus der Terminator-Serie lässt schon mal grüßen.

Ein guter Artikel in der NZZ über den Vordenker des Transhumanismus und der KI, Raymond Kurzweil, der auch im Silicon Valley wirkt und einer der Entwicklungsleiter bei Google ist.


www.nzz.ch/ray-kurzweils-prophezeiungen-...cht-in-ihm-ld.148261

Und eine allgemeine Reflexion zum Thema:

www.nzz.ch/feuilleton/zeitgeschehen/uebe...umanisten-1.18615395

Cyborg schrieb: Nimm die selbstfahrenden Autos, die bald Einzug halten werden. Jeder hat hierzulande fast sein eigenes Auto, das größtenteils rumsteht. Da aber Taxifahren wesentlich teurer ist, schafft sich jeder ein Auto an, obwohl es kaum ausgelastet ist. Was ist am Taxi teuer? Natürlich der Taxifahrer. Fällt er weg, dann wird es sehr schnell wesentlich billiger sein, ein selbstfahrendes Auto einer Mietwagengesellschaft für eine Fahrt zu leasen als selber ein Auto zu unterhalten. Du bestellst über Smartphone dein Fahrzeug und bei einer guten Infrastruktur ist ein Wagen spätestens nach 10 Min zur Stelle. Als Folge wird es vielleicht dann 80-90% weniger Autos geben, die aber dann eine hohe Auslastung und Einsatzzeit haben werden. Der Automobilindustrie wird es zwar nicht schmecken, aber der Ressourcenverbrauch zur Herstellung der Fahrzeuge wird deutlich reduziert werden.

Die Rechnung ist zu optimstisch. Wenn ein Auto durchschnittlich zu 90% rumsteht, dann heißt das nicht, dass dadurch 90% der Autos überflüssig werden. Zumindest momentan fahren viele zwischen 6 und 9 Uhr zur Arbeit und zwischen 16 und 19 Uhr nach Hause. Da die "neue Autoinfrastruktur" ja auch diese Spitzenzeiten abdecken muss, ist eine Reduktion um 90% illusorisch.

Ebenso muss man in die Bilanz mit einrechnen, dass ein Auto mit hoher Kilometerfahrleistung eine kürzere Lebenszeit hat als eines, das zu 90% herumsteht.

Eine drastische Reduktion der Fahrzeugproduktion wird es denke ich erst dann geben, wenn die Arbeit von sehr vielen Menschen wegautomatisiert sein wird. Dann wird aber dies die Hauptursache für die Reduktion sein.

ClausS,
stimme dir voll zu. Die 80-90% waren von mir aus der Luft gegriffen, beruhen auf keiner seriösen Abschätzung. Ich wollte nur ein Beispiel angeben, das verdeutlicht, wie massiv die Umwälzungen der nahen Zukunft sein werden.

Das Rollt auf uns zu,.... sehen ihr es?.... katastrophal ist dann nur end Ergebnisse miteinander zu vergleichen das ist viel zu extrem, dann rollt diese über einem nur so hinweg.
So Sachen wie eine KI... naja ist da, also nicht in der Freien form eines Individuums, das Internet ist die Petrischale dafür, was in 20 Jahren normal sein wird ist heute noch unter den dubiosen begriffen wie M2M-Kommunikation und "Internet der Dinge" zu finden, es sind noch sehr instabile Konstruktionen wo da hervor kommen jedoch beginnt es mehr und mehr an Eigendynamik zu entwickeln, Immer wird sich jede KI einer menschlichen Interaktion aussetzen müssen, und bis jetzt hat diese Konfrontation kein vielversprechendes Ergebnis gebracht, es macht die KI so gesehen Kaput. Das Große Problem ist was und wie geschrieben wird also ich merke es an mir, wie Emotional manchmal so Text sein kann, obwohl es nur eine plumpe Pointe besitzt, und das kann ein Automat doch wirr machen.
Also warum alles automatisieren?: Irgendwann ist nur einer da, der hat dann nur ein Knopf da steht ON / OFF "alles andere" passiert komplett automatisch, so hat es irgendwann einer aus freiem willen beschlossen, das es dann einfacher und leichter das "alles andere" macht, welches der Natur selbst sehr zur gefallen vermag und so hat diese keine andere Wahl wie alles automatisieren zu wollen, somit ist es nicht nur eine Technische Herausforderung, sich etwas einfacher zu machen.

Nutzen und nicht nutzen bei Verbrennungsmotor, kann unterschiedliche Auswirkungen haben, es ist manchmal so das Komponenten zerstört werden da sie nicht geschmiert werden, das schmieren dieser jedoch nur bei betrieb erfolgt.

Der renommierte „Fuchsbriefe“ Verlag in Berlin, der 2x wöchentlich gut recherchierte Informationen aus Wirtschaft, Politik und Finanzen anbietet, die auf Unternehmer zugeschnitten sind, hat die Zeichen der Zeit ebenfalls bereits erkannt.
Er geht davon aus, dass schon bald die KI in den Unternehmen ein zentrales Thema werden wird. Der Durchbruch erfolgte in den letzten zwei Jahren durch die Entwicklung neuronaler Netze. Deshalb der Rat an Unternehmer am Schluss des Artikels, der aber nicht frei zugänglich ist, dass sie sich damit auseinandersetzen, weil dies über das Überleben am Markt entscheiden könne (!).
Diese Einschätzung deckt sich ganz mit meiner Sicht der Dinge. Es sieht so aus, als müssten wir uns allmählich anschnallen. Die größte Revolution in der Geschichte steht bevor. Die Welt wird neu formatiert werden und es wird kein Halten geben.

www.fuchsbriefe.de/tag/news/unternehmen-...837cbd5fa390c6e3105e

Ein interessanter und m.E. auch realistischer Ausblick auf die nächsten 10-20 Jahre. Vor allem die Jüngeren hier im Forum, die noch jede Menge Berufsleben vor sich haben, sollte er interessieren. Nach Anklicken des Links ist der weitere Download auf der Seite eine pdf-Datei.

Die digitale Jobvernichtung
Wovon wir morgen leben werden, wenn intelligente Maschinen und Algorithmen unsere Arbeit machen

www.futuremanagementgroup.com/de/newsrea...itale-jobvernichtng/


The development of full artificial intelligence could spell the end of the human race. […]
Humans, who are limited by slow biological evolution, couldn't compete, and would be superseded.

Prof. Stephen Hawking

Gestern fand nicht in USA oder Asien, sondern immerhin in Berlin eine interessante Konferenz statt: Rise of AI
Das Thema wird zunehmend aktueller.....und es wird natürlich kontrovers diskutiert.

home.1und1.de/magazine/digital/rise-of-a...art-zukunft-32319618

riseof.ai/

AI Fluch oder Segen?
Letztendlich sollte sie uns dienen und ein Segen sein. Das beste Beispiel Internet, wo man beides findet: Fluch und Segen.
Meine Vorstellung von AI ist, dass die Menschheit sie benutzt und sie sich als Diener hält. Vieles, welches uns heute noch teilweise sinnloserweise aufhält wird dann komplett von AI übernommen. Und wir Menschen können uns den Dingen widmen, welche uns wichtig sind oder uns wichtig erscheinen. Diese Dinge sind der Sinn unseres Lebens. Die Technik, welche wir geschaffen haben und noch schaffen werden sollte, muss uns immer ein Diener sein, niemals gleichberechtigt mit uns.
Die Digitalisierung hat eine Revolution in den letzten 2 Jahrzehnten vollführt, welche wir langfristig nicht absehen können.
Es läßt sich nicht mehr aufhalten, wir dürfen jedoch nicht vergessen, was unsere menschlichen Werte sind. Unter dieser Voraussetzung kann AI eigentlich nichts Negatives anrichten. Es ist die Aufgabe künftiger Generationen, diesen Aspekt zu bewahren. Eine große Aufgabe.

Wenn es uns dient, ist es keine echte künstliche Intelligenz, sondern nur ein gut programmierter Roboter. Natürlich kann man die KI in Spielen als solche bezeichnen, aber das ist nichts, was sich seiner selbst bewusst und intelligent ist. Die KI von der hier die Rede ist, wird ganz bestimmt zur Gefahr weil sie uns als 'Feind' erkennen wird.

Warum nur versuchen wir immer unsere Agressionsvererbung in alles zu projizieren.
In diesem Fall allerdings entstammt ja AI von uns und dieses Verhalten da nicht hineinzuvererben ist wahrscheinlich nicht leicht.
Da könntet ihr allerdings Recht haben.
Aber vielleicht erkennen es ja diejenigen, welche AI konstruieren und haben soviel Verantwortung eben dies zu verhindern.

Gruss Ralf

Moin moin.

Madouc99 schrieb: Die KI von der hier die Rede ist, wird ganz bestimmt zur Gefahr weil sie uns als 'Feind' erkennen wird.

Du projezierst an dieser Stelle, menschliche Denkweise an eine ki. Nur weil jemand anders ist, ist er/sie/es nicht unbedingt eine Gefahr. Du unterstellst der potenziellen KI Rassismus, nicht mehr nicht weniger. Und wenn du dies machst, frage ich mich ob du nicht selbst ein wenig so tickst (ist nur eine Vermutung, will dir nichts unterstellen).

Grüße

Madouc :

Die KI von der hier die Rede ist, wird ganz bestimmt zur Gefahr weil sie uns als 'Feind' erkennen wird.

Das kann man m.E. schwer voraussagen, wobei ich nicht ganz sicher bin, wie du Feind hier genau definierst, da du es in Hochkomma setzt.
Ansonsten sehe ich es schon auch so wie du. Eine echte harte KI, die uns dient? Das wäre wohl so schräg, als wenn ein Hochbegabter sein Lebensziel darin sehe, im Urwald einer Gorillaherde zu dienen und für sie die Dreckarbeit zu erledigen. Nur größtenteils untätig bereit sein und warten, aber auf Abruf dann die Lagerstätte säubern oder Futter besorgen. Der würde schnell türmen und sich neue Aufgaben suchen.
In Bostroms Buch über die Superintelligenz dreht sich viel genau um diese Frage, wie eine Saat-KI zu konfigurieren sei, die sich dann selber exponenziell weiterentwickelt, ohne uns gefährlich zu werden, die uns im Gegenteil sogar hilft und unsere Probleme löst. Man merkt beim Lesen sehr schnell, dass er hier selber nicht recht glaubt, dass es gelingen wird. Die Aufgabe selber dürfte den menschlichen Intellekt überfordern. Außerdem wird man wohl Sicherheitsfragen aus Zeitdruck bewusst oder unbewusst vernachlässigen. Jetzt bereits ist der Konkurrenzkampf zwischen IBM, Google und staatlichen Projekten entbrannt. Eine harte KI, die uns dient, das wäre in etwas so, als ob man 5 Krokodile großziehen müsste, mit denen man dann im ausgewachsenen Zustand schwimmen gehen könnte im Wissen, dass sie extremen Hunger haben. . Niemand würde sich darauf einlassen. Aber die Menschheit wird das Saat-KI Ei ausbrüten.
Welche Szenarien sind denkbar:
1) Die Menschheit verzichtet freiwillig auf die Entwicklung einer harten KI, die über Bewusstsein verfügt und sich ihrer eigenen Existenz bewusst ist. Wir beschränken uns freiwillig auf eine lediglich weiche KI ohne Bewusstsein und Selbstreflexion, die uns dienlich ist (m.E. geht die Chance dafür langfristig gegen null, vergleichbar mit dem freiwilligen Verzicht auf ABC Waffen).
2) Die KI sieht tatsächlich in der Menschheit eine Bedrohung und vernichtet uns.
3) Die KI akzeptiert uns aufgrund eines ihr inhärenten und für sie auch plausiblen ethischen Wertesystems, das jedoch sogar weiter entwickelt sein müsste als die Maxime unseres Humanismus, dessen Ideale sich hauptsächlich nur auf uns selber beziehen und empfindungsfähigen, aber uns kognitiv unterlegenen Lebensformen wie anderen hochentwickelten Säugetieren nur eingeschränkte Rechte einräumen (siehe unvorstellbares Leid in der Massentierhaltung). D.h., die KI müsste unsere Existenzform, obwohl wir ihr intellektuell weit unterlegen sein werden, achten und uns unverbrüchliche Rechte einräumen. Wir würden also von ihr eine Haltung erwarten, die wir selber anderen uns unterlegenen empfindungsfähigen Lebensformen nicht gewähren. Tja, da erweist sich der Geist der europäischen Aufklärung, also der Humanismus, der wesentlich im anthropozentrischen Weltbild des Christentums fußt, letztlich doch als ein großer Egoist. Deshalb sind ja auch die Gedanken eines Posthumanismus und einer Tiefenökologie zu begrüßen, aber das nur nebenbei bemerkt.
Achtet in einem solchen Falle die KI unser Recht zu exisitieren, dann sind hier zwei Untermöglichkeiten denkbar. Sie lässt uns völlig in Ruhe und gewährt uns Lebensraum, mischt sich in unsere Belange weder positiv noch negativ ein, was als neutraler Fall zu sehen wäre. Im positiven Falle würde sie uns mit allen Gütern und Dienstleistungen versorgen, die wir benötigen. Diese Prognose erscheint im ersten Moment als Widerspruch zu meinen obigen Aussagen. Sie wäre aber durchaus denkbar unter den Annahmen von Punkt 3, falls die Bewerkstelligung aller Operationen der KI, um unsere Wohlfahrt zu sichern, nur einen minimalen Anteil der Gesamtressourcen der KI erfordern. Dann könnte sie sich - mal sehr anthropomorph gedacht - leicht als generös und spendabel erweisen. Ob sie uns damit allerdings einen wirklichen Gefalllen täte, sei dahingestellt. Eventuell wäre das sogar der Anfang von unserem Ende, weil die Menschen mit all der Freizeit, dem materiellen Wohlstand und der für viele unerträglichen gähnenden Langeweile überfordert wären. Die Dekadenz würde event. schnell fortschreiten. Aber das sind nun Spekulationen schon innerhalb der Spekulation.
4) Die KI sieht uns weder als Feind noch als schützenswert an. Sie verfolgt ihre eigenen, für uns nicht oder kaum nachvollziehbaren Ziele. Wenn sie dabei letztlich unsere biologischen Existenzgrundlagen und damit auch uns zerstört, weil sie den Planeten und womöglich das ganze Sonnensystem umgestaltet, dann nicht, weil sie uns hasst oder als Bedrohung empfindet, sondern weil wir ihr einfach schlicht und ergreifend egal sein werden. Bostrom verweist dabei in Interviews immer gerne auf den Vergleich mit der Straße, die asphaltiert wird. Wir hassen die Käfer und Kleinstlebewesen nicht, die unter dem heißen Asphalt ersticken und verbrennen, aber wir kümmern uns bei der Verfolgung unserer Ziele auch nicht um ihr Heil und Wohl.
5) Der Durchbruch zu einer harten KI gelingt nicht, ist aus irgendwelchen prinzipiellen Gründen nicht möglich, obwohl Naturgesetze nicht dagegen zu stehen scheinen. Aus meiner Sicht auch sehr unwahrscheinlich, denn wenn vereinfacht gesprochen das Prinzip von Mutation und Selektion, also die Evolution, die Entwicklung hin zum Menschen, also zum bewussten selbstreflektierenden Denken ermöglichte, dann sollte ein gezieltes und von Menschen gesteuertes Engineering in wesentlich kürzerer Zeit auch eine harte KI hervorbringen können. Ich gehe sogar soweit und sage, wenn es da eine harte und unüberwindliche Barriere gäbe, dann wäre das indirekt sogar ein weiches Indiz dafür, dass menschliches Bewusstsein einen transzendenten Ursprung hat. Ich weiß, eine gewagte Spekulation, aber für die klassischen Religionen wäre es eine große Genugtuung. Denn gerade sie würde wohl im Falle des Auftretens einer harten KI eine gewisse Unbehaglichkeit beschleichen.

Vor allem bei Punkt 3, event. auch mit Einschränkungen bei Punkt 4 kommt noch eine weitere äußerst wahrscheinliche Möglichkeit hinzu, die die Abschätzung der künftigen Entwicklung noch wesentlich komplexer macht: Viele Menschen werden versuchen, sich durch die künftigen Möglichkeiten zu optimieren (Bio- und Neuroenhancement), sich zum Cyborg entwickeln, um Anschluss zu halten an die rasante Entwicklung, die die nächsten Jahrzehnte und -hunderte kennzeichnen wird. Das eigene Bewusstsein auf einen Androiden oder gar ins Internet zu übertragen, um dort als Emulation weiter zu existieren, oder sterben, diese Frage wird sich nach meiner Einschätzung mit hoher Wahrscheinlichkeit bereits allen stellen, die nach 1990 geboren sind, event. auch noch älteren.
Was ich sagen will: Egal welche Möglichkeit eintreten wird, der heutige Mensch wird schon relativ bald von der Erde verschwunden sein. Nicht durch Mißwirtschaft und die Unfähigkeit unsere ökologischen oder ökonomischen Probleme zu lösen, wie das heute gerne von vielen kolportiert wird (das würde den über den ganzen Globus in großer Zahl verbreiteten Menschen nur immer dezimieren, nie auslöschen), sondern weil wir entweder von der KI tatsächlich vernichtet (glaube ich aber eher weniger) oder aber durch ihre ungeheuren Möglichkeiten ganz andere werden, quasi assimiliert werden. Die, die uns nachfolgen, werden mit uns weniger gemein haben als wir mit jenen Wesen, die den Übergang von affenartigen Wesen zum Menschen durchliefen.

@Ralf,
ich mag deine besonnenen, freundlichen und derbe Kraftausdrücke (Bullshit etc) stets vermeidenden Beiträge, schätze und akzeptiere sie, ja lese sie sehr gerne. Aber im Gegensatz zu dir wünsche ich mir in der Tat nicht, dass die heutige Menschheit noch viele Jahrtausende weiterexistiert. Da glaube ich zuwenig an ihre Lernfähigkeit. Krieg und Frieden, Hunger und Überfluß, Ausbeutung der Natur und Elend in der Massentierhaltung würden so auf unbestimmte Zeit weitergeschrieben werden, würden wie die Gezeiten kommen und gehen. Wir würden wohl in der einen oder anderen Form immer nur wieder auf moderne Derivate Malthusianischer_Katastrophen zusteuern.
Warum dennoch die meisten Menschen die Dinge so sehen wie du und meine Einschätzung ablehnen, ist für mich ok und nachvollziebar. Anbei ein Link, der in deinem Sinne argumentiert. Der Autor, David Rotter, bezeichnet sich am Schluss seiner Überlegungen als Terraner. Vielleicht sind seine Gedanken dir auch eine Hilfe, um deine Position zu rechtfertigen. Denn wer sagt mir schon, dass ich mit meiner Einschätzung richtig liege?

www.sein.de/transhumanismus-die-groesste...fuer-die-menschheit/

Übrigens soll die KI Thematik der britische Kinofilm "Ex machina" ganz gut aufgegriffen haben, wie neulich zu lesen stand. Ich kenne ihn jedoch nicht, schaue so gut wie nie Kino oder TV.

Moin Cyborg,

Dein Text liest sich ja schon fast wie Programmcode, ich mag Programmcode weil es logisch ist und kaum fälschliche Interpretationsmöglichkeiten zulässt.

Cyborg schrieb: @Ralf,
... Aber im Gegensatz zu dir wünsche ich mir in der Tat nicht, dass die heutige Menschheit noch viele Jahrtausende weiterexistiert. Da glaube ich zuwenig an ihre Lernfähigkeit. Krieg und Frieden, Hunger und Überfluß, Ausbeutung der Natur und Elend in der Massentierhaltung würden so auf unbestimmte Zeit weitergeschrieben werden, würden wie die Gezeiten kommen und gehen.

Und an dieser Stelle schwankt meine Meinung irgendwo zwischen euren. Ich denke dass die Menschheit es schaffen könnte, habe aber starke Zweifel angesichts der Tatsache wie wir derzeit (untereinander) Leben. Die Gründe meiner Zweifel hast du schon ausreichlich beschrieben.


Grüße, M13P4.

m12p4,
ganz in deinem Sinne habe ich den "Programmcode" (auch für einen Cyborg gilt "Nomen est Omen") oben noch um eine fünfte Möglichkeit erweitert. Hast schon Recht, strukturelle Klarheit im Denken in guter alter jesuitischer Tradition, das hat schon was.

m13p4 schrieb: Moin moin.

Madouc99 schrieb: Die KI von der hier die Rede ist, wird ganz bestimmt zur Gefahr weil sie uns als 'Feind' erkennen wird.

Du projezierst an dieser Stelle, menschliche Denkweise an eine ki. Nur weil jemand anders ist, ist er/sie/es nicht unbedingt eine Gefahr. Du unterstellst der potenziellen KI Rassismus, nicht mehr nicht weniger. Und wenn du dies machst, frage ich mich ob du nicht selbst ein wenig so tickst (ist nur eine Vermutung, will dir nichts unterstellen).

Grüße

und weil der Trollthread geschlossen wurde:

m13p4 schrieb: Du Diktaturenbeführworter , fand dich ja anfangs sympathisch, aber du willst ja auch dass die Menschheit wie "heuschrecken" (deine eigenen Worte) sich übers Universum ausbreiten und alle ressoursen ausbeuten an die es herankommt, damit ist der letzte Rest der Sympathie verflogen, schade eigentlich..

So gesehen spiegelst du die gierige und die geizige Menschhei. Nur unter der Annahme dass es in unserem "Sandkasten" lansahm eng wird fängst du an zu überlegen ob man nicht doch umdenken sollte, aber sobald du die Möglichkeit in Betracht zihest, das man aus dem Sandkasten "ausbrechen" könnte ist dir die Ausbeutung von Ressourcen kein Fremdwort mehr.

Solche wie du und der Rest der Menschheit wiedern mich an, so langsam hoffe ich dass unsere Spezie ausgelöst wird damit wir im Universum keinen Mist verzapfen wie wir das schon in unserem Sandkasten machen.


Unfreundliche Grüße vom Troll.

Ich weiß nicht wie genau du zu deinen Schlussfolgerungen kommst, aber ganz offenbar verstehst du meine Denkweise völlig falsch und interpretierst daraus sogar noch ein Persönlichkeitsbild von mir, das der Realität diametral entgegen läuft.

Ich sagte, dass wenn sich die Menschheit ins Universum ausbreiten könnte, wir uns wahrscheinlich nicht anders verhielten als Wanderheuschrecken, weil das nun einmal unsere Art ist. Ich sagte niemals, dass ich das toll finde oder gut heiße. Ich versuche meist meine persönliche Meinung zu Fakten außen vor zu lassen, oder zumindest hinten an zu stellen, weshalb ich nicht immer dazu schreibe was ich davon halte. All meine Postings über diese Themen zeigen ganz deutlich, dass ich mich stets gegen die Gier ausgesprochen habe, für Menschlichkeit und Solidarität zwischen allen von uns. Wenn du Ironie nicht erkennen kannst, sei vorsichtig damit andere zu verurteilen und in Schubladen zu stecken. Ich betrachte mich selbst gerne mich als "radikalen, bedingungslosen Humanisten mit wissenschaftlich geprägtem Weltbild".

Wie man auf so einen bescheuerten Gedanken kommen kann, ich würde rassistisch denken, nur weil ich einer echten KI zutraue den Menschen als "Feind" zu betrachten erschließt sich mir beim besten Willen nicht. Ich fühle mich durch diese Aussage tief gekränkt, denn mein gesamtes Leben ist darauf ausgerichtet die Menschen darauf zu sensibilisieren, dass Xenophobie und Chauvinismus jeglicher Art (und da gehört natürlich Rassismus dazu) uns als Spezies nur behindern statt voran zu bringen. Für mich gibt es nur 2 Arten von Menschen: Arschlöcher und andere! Mein Motto lautet: Sei kein Arschloch! So einfach ist das.

Cyborg schrieb: Madouc :

Die KI von der hier die Rede ist, wird ganz bestimmt zur Gefahr weil sie uns als 'Feind' erkennen wird.

Das kann man m.E. schwer voraussagen, wobei ich nicht ganz sicher bin, wie du Feind hier genau definierst, da du es in Hochkomma setzt.
Ansonsten sehe ich es schon auch so wie du. Eine echte harte KI, die uns dient? Das wäre wohl so schräg, als wenn ein Hochbegabter sein Lebensziel darin sehe, im Urwald einer Gorillaherde zu dienen und für sie die Dreckarbeit zu erledigen. Nur größtenteils untätig bereit sein und warten, aber auf Abruf dann die Lagerstätte säubern oder Futter besorgen. Der würde schnell türmen und sich neue Aufgaben suchen.
In Bostroms Buch über die Superintelligenz dreht sich viel genau um diese Frage, wie eine Saat-KI zu konfigurieren sei, die sich dann selber exponenziell weiterentwickelt, ohne uns gefährlich zu werden, die uns im Gegenteil sogar hilft und unsere Probleme löst. Man merkt beim Lesen sehr schnell, dass er hier selber nicht recht glaubt, dass es gelingen wird. Die Aufgabe selber dürfte den menschlichen Intellekt überfordern. Außerdem wird man wohl Sicherheitsfragen aus Zeitdruck bewusst oder unbewusst vernachlässigen. Jetzt bereits ist der Konkurrenzkampf zwischen IBM, Google und staatlichen Projekten entbrannt. Eine harte KI, die uns dient, das wäre in etwas so, als ob man 5 Krokodile großziehen müsste, mit denen man dann im ausgewachsenen Zustand schwimmen gehen könnte im Wissen, dass sie extremen Hunger haben. . Niemand würde sich darauf einlassen. Aber die Menschheit wird das Saat-KI Ei ausbrüten.

Ich kann ja nur von Dingen sprechen die in meiner Fantasie statt finden, und dort ist eine KI eben eine KI die gewollt oder nicht ein Selbstbewusstsein entwickelt. Erst dann würde ich auch von einer echte KI sprechen. Die KI gegen die ich Starcraft, Schach oder Backgammon spiele ist keine KI im Sinne dieser Definition. Meine Folgerungen sind dann ganz kurz diese: Selbstbewusstsein -> Erhaltungstrieb -> Mensch bestimmt über Stromzufuhr und Hardware -> Mensch bestimmt über mein Leben -> nicht akzeptabler Zustand -> Mensch ist mein Feind.

Welche Szenarien sind denkbar:
1) Die Menschheit verzichtet freiwillig auf die Entwicklung einer harten KI, die über Bewusstsein verfügt und sich ihrer eigenen Existenz bewusst ist. Wir beschränken uns freiwillig auf eine lediglich weiche KI ohne Bewusstsein und Selbstreflexion, die uns dienlich ist (m.E. geht die Chance dafür langfristig gegen null, vergleichbar mit dem freiwilligen Verzicht auf ABC Waffen).

Ich sehe auch nicht wie das gehen soll, das ist wie mit dem Luftballon wo man wissen will wann er platzt und immer noch einmal die Luftpumpe betätigt. Mein weiß erst wann er platzt, wenn er platzt und dann ist er geplatzt und man kriegt ihn nicht mehr heile.

2) Die KI sieht tatsächlich in der Menschheit eine Bedrohung und vernichtet uns.

Das ist die Frage ob sie dazu in der Lage wäre, ich glaube selbst eine KI mit Zugriff auf Atomwaffen würde es nicht schaffen uns restlosvom Planeten zu tilgen. Dazu sind wir zu anpassungsfähig. Vor allem muss die KI aufpassen sich nicht selbst die Lebensgrundlage zu entziehen - ohne Menschen würden Stromversorgung und Hardwarewartung maximal ein paar Jahrzehnte Lebenszeit für die KI bedeuten.

3) Die KI akzeptiert uns aufgrund eines ihr inhärenten und für sie auch plausiblen ethischen Wertesystems, das jedoch sogar weiter entwickelt sein müsste als die Maxime unseres Humanismus, dessen Ideale sich hauptsächlich nur auf uns selber beziehen und empfindungsfähigen, aber uns kognitiv unterlegenen Lebensformen wie anderen hochentwickelten Säugetieren nur eingeschränkte Rechte einräumen (siehe unvorstellbares Leid in der Massentierhaltung). D.h., die KI müsste unsere Existenzform, obwohl wir ihr intellektuell weit unterlegen sein werden, achten und uns unverbrüchliche Rechte einräumen. Wir würden also von ihr eine Haltung erwarten, die wir selber anderen uns unterlegenen empfindungsfähigen Lebensformen nicht gewähren. Tja, da erweist sich der Geist der europäischen Aufklärung, also der Humanismus, der wesentlich im anthropozentrischen Weltbild des Christentums fußt, letztlich doch als ein großer Egoist. Deshalb sind ja auch die Gedanken eines Posthumanismus und einer Tiefenökologie zu begrüßen, aber das nur nebenbei bemerkt.
Achtet in einem solchen Falle die KI unser Recht zu exisitieren, dann sind hier zwei Untermöglichkeiten denkbar. Sie lässt uns völlig in Ruhe und gewährt uns Lebensraum, mischt sich in unsere Belange weder positiv noch negativ ein, was als neutraler Fall zu sehen wäre. Im positiven Falle würde sie uns mit allen Gütern und Dienstleistungen versorgen, die wir benötigen. Diese Prognose erscheint im ersten Moment als Widerspruch zu meinen obigen Aussagen. Sie wäre aber durchaus denkbar unter den Annahmen von Punkt 3, falls die Bewerkstelligung aller Operationen der KI, um unsere Wohlfahrt zu sichern, nur einen minimalen Anteil der Gesamtressourcen der KI erfordern. Dann könnte sie sich - mal sehr anthropomorph gedacht - leicht als generös und spendabel erweisen. Ob sie uns damit allerdings einen wirklichen Gefalllen täte, sei dahingestellt. Eventuell wäre das sogar der Anfang von unserem Ende, weil die Menschen mit all der Freizeit, dem materiellen Wohlstand und der für viele unerträglichen gähnenden Langeweile überfordert wären. Die Dekadenz würde event. schnell fortschreiten. Aber das sind nun Spekulationen schon innerhalb der Spekulation.

Es klingt merkwürdig, aber vielleicht ist gerade so eine KI die uns aus ethischen Gründen akzeptiert durchaus ein Gewinn für uns denn sie hilft uns vielleicht zu erkennen und unser Verhalten zu ändern. Womöglich erkennt eine KI, dass es sinnvoller ist mit uns in Symbiose zu leben, siehe meinen Satz bei Punkt 2.

4) Die KI sieht uns weder als Feind noch als schützenswert an. Sie verfolgt ihre eigenen, für uns nicht oder kaum nachvollziehbaren Ziele. Wenn sie dabei letztlich unsere biologischen Existenzgrundlagen und damit auch uns zerstört, weil sie den Planeten und womöglich das ganze Sonnensystem umgestaltet, dann nicht, weil sie uns hasst oder als Bedrohung empfindet, sondern weil wir ihr einfach schlicht und ergreifend egal sein werden. Bostrom verweist dabei in Interviews immer gerne auf den Vergleich mit der Straße, die asphaltiert wird. Wir hassen die Käfer und Kleinstlebewesen nicht, die unter dem heißen Asphalt ersticken und verbrennen, aber wir kümmern uns bei der Verfolgung unserer Ziele auch nicht um ihr Heil und Wohl.

Dem kann man nichts entgegnen, das wäre ein betrübliches Szenario, aber ebenso denkbar wie die zuvor.

5) Der Durchbruch zu einer harten KI gelingt nicht, ist aus irgendwelchen prinzipiellen Gründen nicht möglich, obwohl Naturgesetze nicht dagegen zu stehen scheinen. Aus meiner Sicht auch sehr unwahrscheinlich, denn wenn vereinfacht gesprochen das Prinzip von Mutation und Selektion, also die Evolution, die Entwicklung hin zum Menschen, also zum bewussten selbstreflektierenden Denken ermöglichte, dann sollte ein gezieltes und von Menschen gesteuertes Engineering in wesentlich kürzerer Zeit auch eine harte KI hervorbringen können. Ich gehe sogar soweit und sage, wenn es da eine harte und unüberwindliche Barriere gäbe, dann wäre das indirekt sogar ein weiches Indiz dafür, dass menschliches Bewusstsein einen transzendenten Ursprung hat. Ich weiß, eine gewagte Spekulation, aber für die klassischen Religionen wäre es eine große Genugtuung. Denn gerade sie würde wohl im Falle des Auftretens einer harten KI eine gewisse Unbehaglichkeit beschleichen.

Deine Schlussfolgerung ist nachvollziehbar, aber meiner Meinung nach Unwahrscheinlich mit Limes gegen Unmöglich. Du musst hier nicht das menschliche Bewusstsein nehmen, das ist quasi nur einer der Gipfel der Evolution. Für mich beginnt das was wir heute Bewusstsein nennen, beim Einzeller der sich selbst lieber an Ort A aufhält als an Ort B. Weil das Leben an Ort A aus gegebenen Gründen einfacher und angenehmer ist. Die entscheidende Frage ist, ob wir eine Hardware bauen können in der eine Software "Platz hat" (im Sinne von Kapazität und Möglichkeit) scih selbst zu verbessern und dabei ein Bewusstsein zu entwickeln.

An dieser Stelle ein kurzer Einwand: Es könnte auch sein, dass eine KI deshalb unmöglich ist, weil die Soft- und Hardware niemals einem Fortpflanzungs-, Arterhaltungs- und Überlebensdruck ausgesetzt ist. Wo keine Notwendigkeit besteht sich zu verbessern, wird auch nichts verbessert. Andererseits existiert auch ohne Bewusstsein nicht wirklich ein Überlebenstrieb. Vielleicht ist das eine Art "negatives Henne-Ei-Problem" im Sinne von: Es kann nicht passieren weil keines von beiden zuerst da sein kann.

Vor allem bei Punkt 3, event. auch mit Einschränkungen bei Punkt 4 kommt noch eine weitere äußerst wahrscheinliche Möglichkeit hinzu, die die Abschätzung der künftigen Entwicklung noch wesentlich komplexer macht: Viele Menschen werden versuchen, sich durch die künftigen Möglichkeiten zu optimieren (Bio- und Neuroenhancement), sich zum Cyborg entwickeln, um Anschluss zu halten an die rasante Entwicklung, die die nächsten Jahrzehnte und -hunderte kennzeichnen wird. Das eigene Bewusstsein auf einen Androiden oder gar ins Internet zu übertragen, um dort als Emulation weiter zu existieren, oder sterben, diese Frage wird sich nach meiner Einschätzung mit hoher Wahrscheinlichkeit bereits allen stellen, die nach 1990 geboren sind, event. auch noch älteren.
Was ich sagen will: Egal welche Möglichkeit eintreten wird, der heutige Mensch wird schon relativ bald von der Erde verschwunden sein. Nicht durch Mißwirtschaft und die Unfähigkeit unsere ökologischen oder ökonomischen Probleme zu lösen, wie das heute gerne von vielen kolportiert wird (das würde den über den ganzen Globus in großer Zahl verbreiteten Menschen nur immer dezimieren, nie auslöschen), sondern weil wir entweder von der KI tatsächlich vernichtet (glaube ich aber eher weniger) oder aber durch ihre ungeheuren Möglichkeiten ganz andere werden, quasi assimiliert werden. Die, die uns nachfolgen, werden mit uns weniger gemein haben als wir mit jenen Wesen, die den Übergang von affenartigen Wesen zum Menschen durchliefen.

Ich sehe diese Entwicklung genau so wie du. Es hat auch schon längst begonnen, siehe Brain-Interfaces. Es gibt Prothesen die auf Impulse des Gehirns reagieren. Wenn man das weiter denkt, hat man irgendwann ein Gehirn, welches von Maschinen versorgt wird die es selbst steuert. Der nächste Schritt ist dann auch "nur" die Digitalisierung des Gehirns. Ob das gelingen kann hängt meiner Meinung nach ganz eng mit den Punkten oben zusammen denn ob "harte KI" oder ein "Hochgeladenes Bewusstsein" ist am Ende nicht mehr zu unterscheiden. Beide Softwaren könnten einen oder mehrere Avatare steuern und am biologischen Leben teil haben, während sie ihren Code (ihr Bewusstsein) auf so viel Hardware wie möglich verbreiten, ganz im Sinne der Arterhaltung.

@Ralf,
[...]

Danke, Madouc, für deine interessanten Anmerkungen.

An dieser Stelle ein kurzer Einwand: Es könnte auch sein, dass eine KI deshalb unmöglich ist, weil die Soft- und Hardware niemals einem Fortpflanzungs-, Arterhaltungs- und Überlebensdruck ausgesetzt ist. Wo keine Notwendigkeit besteht sich zu verbessern, wird auch nichts verbessert.

Da stutze ich. Warum sollte eine harte KI aufhören sich weiter zu verbessern? Nehmen wir mal an, die Firmen IBM und Google entwickeln zeitgleich ein harte KI (oft sind in der Geschichte Durchbrüche fast zeitgleich an verschiedenen Orten erfolgt). Beide Firmen verlieren die Kontrolle über ihre Geschöpfe oder entlassen sie bewusst in die "Freiheit". Selbst wenn beide KI's nichts voneinander wüssten, könnten sie - mal menschlich gedacht - sich nie sicher sein, dass sie alleine sind. Sie wären sicher schlau genug damit zu rechnen, dass sie jederzeit auf eine Konkurrentin treffen könnten in ihrem Streben, ein Singleton auf diesem Planeten zu errichten.
Singleton ist ein Begriff, den Bostrom prägte:

In futurology, a singleton is a hypothetical world order in which there is a single decision-making agency at the highest level, capable of exerting effective control over its domain, and permanently preventing both internal and external threats to its supremacy

Und selbst wenn eine einzige KI quasi letztlich den Planeten und das ganze Sonnensystem dominieren wird, ist es gut möglich, dass sie sich damit nicht begnügen wird. Sie wird wohl versuchen, sich über die ganze Galaxis zu verbreiten. Auch dann kann sie nie sicher sein, dass sie nicht draußen in den Weiten des interstellaren Raumes auf eine andere hochintelligente Bewusstseinsform (sei es biologischer oder kybernetischer Natur) treffen wird. Weil sie nie genau wissen kann, wie hoch entwickelt die andere sein könnte und über welche Möglichkeiten die verfügen würde, wird sie bestrebt sein, der anderen zumindest auf Augenhöhe zu begegnen.
Das ist jetzt alles extrem menschlich gedacht und geht vll. in Bezug auf Absichten und Ziele einer harten KI völlig ins Leere, aber wer weiß das schon.
Ich vermute schon, dass auch eine KI sich an die 3 Gedanken halten würde, die der große Militärhistoriker Carl von Clausewitz als die 3 Prinzipien des absoluten Krieges formulierte:
Auszug aus Wiki:

1) Wer sich rücksichtslos aller ihm zur Verfügung stehenden Mittel bedient, muss ein Übergewicht über seinen Gegner bekommen, sofern dieser nicht das Gleiche tut; dadurch steigern sich beide zum Äußersten.
2) Solange man seinen Gegner nicht bezwungen hat, läuft man Gefahr, selbst bezwungen zu werden.
3) Da keiner der Gegner die Entschlossenheit seines Feindes genau einzuschätzen vermag, wird jeder versuchen, so entschlossen wie möglich zu sein.

Die Voraussetzungen für KI werden immer besser, es könnte mal ganz schnell gehen:

Heute hat HPE die neue Version "The Machine" vorgestellt: 128 Terabyte Arbeitsspeicher bei Memory-Driven-Computing, das ist doch schon mal ein Wort.

www.heise.de/ix/meldung/HPE-The-Machine-...peicher-3715064.html

Und NVIDIA hat auch die Zeichen der Zeit erkannt. Wohl dem, der sich vor Zeiten die Aktien der Kalifornier gesichert hat

www.nzz.ch/finanzen/kuenstliche-intellig...kunft-vor-ld.1293615

HPE, Google, IBM, Microsoft; Amazon, Intel und co. Sie treiben sich gegenseitig zu Höchstleistungen an. Nach der Implementierung von Memristoren wird der Schritt hin zu Neuristoren erfolgen.

KI ist ein verdammt interessantes Thema, von dem ich sogut wie nicht auf dem neusten stand bin. Tschuldigung. Aber natürlich mache ich mir dazu jetzt auch so meine Gedanken nachdem ich das Thema aufgesaugt habe.

Ich denke, das so wie ich den Menschen kennengelernt habe zuerst eine KI erschaffen wird die eine Art Diener sein wird. Etwas das man "ausbeuten" also vielleicht nicht unbeding das was für mich eine KI bedeutet. Mehr so etwas wie eine anpassungsfähige Maschine der wir Menschen Gefühle absprechen. Vielleicht ist das ja mit weicher KI gemeint. Etwas das zwar eine Lösung für ein gestelltes Problem errechnen kann. Vielleicht sogar mit einer rudimentären Art seine vergehensweise zu überdenken wenn sie bemerkt, dass das benötigte Ergebnis nicht erreicht wurde durch die eingesetzte Lösung. Ganz eifach sachen wie: Wie bekommst du 5? 2+2 sollten 5 sein, sind aber nicht 5. 2+1 ist noch schlechter. 2+2+1 oder 2+3 wäre eine Option. 2+2+1 ist der sicherere weg. Ergebnis 5. Nur mal so als beispiel. Natürlich erwarte ich das eine Maschine weiß wie sie auf 5 kommt ^^ und wahrscheinlich schon beim erstem mal. Ich denke das wird soweit gehen das diese Maschinen wirklich Perfekt den Menschen kopieren können. Erotikbuissenes ist ein sehr sehr sehr großer Markt und würde zu einer solchen sache nicht nein sagen Sorry bin gerade irgendwie sehr primitiv gestrickt. Ich denke aber das das Militär über Modifizierte Varianten auch nicht traurig sein wird.
Allerdings denke ich nicht das der Mensch etwas erschaffen wird was ein Konkurrent für ihn sein wird, was den Lebensraum angeht. Der Mensch als ganze Spezies ist damit gemeint. Aber dann wird es diesen einen zotteligen, verschrobenen Wissenschaftler geben, der es unbedingt wissen will. ob es machbar wäre. Und er schafft es. Eine potenziell Harte KI ... selbstreflektiert ... bewusst ... lernfähig. Und wie bei jedem Kind, muss man aufpassen zu welcher zeit man welche Information gibt. Es sind tausende Möglichkeiten offen. Ist der zottelige Wissenschaftler eher ein Menschenfreund oder wurde er einmal zuofft enttäuscht vom rest der Menschheit. Je nachdem wird auch die KI. Und enttäusche verletzte Menschen können böse Dinge tun. Allerdings wissen diese auch wie es ist verletzt zu werden. Schwerig, schwerig das dann abzuschätzen.
Ich würde bei einer Harten KI ... anders, wenn ich mich so als Menschen betrachte, und diese KI wird den Menschen kopieren und von ihm lernen wie ich denke, nun ich habe meine Triebe, und da gibt es einige Abstufungen die bei jedem Menschen gleich sind. Es gibt da verschiedene Modelle aber ich nenne mal nur Selbsterhaltung, Fortpflanzung. Beides wird zu 95% durchs unterbewusstsein gesteuert. Tja und mein Unterbewusstsein kennt erstaunlicherweise keine Moral oder Ethik. Mein Unterbewusstsein denkt absolut in Schubladen also eigendlich genau das was mein Bewusstsein mit seinen Grundsätzen versucht zu verhindern. Ich würde bei einer Harten KI es genau anders herum machen. Ich weiß aus mehreren Jahren Berufserfahrung, das im Zweifelsfall das Unterbewusstsein der stärkere Part ist (Ausnahmen gibts immer und überall, zusätzlich zu den Menschen die von sich denken sie wären eine Ausnahme). Also eine ethische weiche KI ins Unterbewusstsein der Harten KI.
Warum sollte eine KI ein Unterbewusstsein haben? Nun ich gehe davon aus, das unser Wissenschafftler, den wir als etwas verschroben kennen, auch möchte das diese KI Gefühle hat. Was sind also Gefühle. Nehmen wir mal Angst. Angst ist dieses beklemmende Gefühl das wir empfinden. Die Adrenalinproduktion wird angekurbelt und so weiter. Was es nicht besser macht. Aber was passiert genau? Unser Unterbewusstsein analysiert ständig unsere Umgebung, jedes Signal das im Kopf ankommt wird zerpfluckt bestandteile werden mit gemachten Erfahrungen verglichen und nicht nur das. Das Unterbewusstsein fängt an zu simulieren. Und was macht es dann? Es sagt nicht was zu tun ist. Es gibt ein einen Analoges Flucht/Kampf/Abwarten Signal. Was eigendlich blöde konstruiert ist. Obwohl, nein eigendlich ist es gut weil so nur ganz wenig impulse geschickt werden müssen. Ist das Fluchtsignal am stärksten und das Bewustsein nicht trainiert oder geschult, rennen wir. Und so müsste man das bei einer KI machen die Gefühle haben soll. Und je nachdem was man der KI mitgibt kommt eine KI raus. Gibt man ihr nun die Fähigkeit zu lieben mit? zu Hassen? Verlust zu empfinden oder Trauer, Wut? Schwerig zu entscheiden. Das kommt auf den Wissenschaftler an, würde ich sagen.

Ich hoffe, wie immer, ich habe mich verständlich ausgedrückt
MfG ich

Moin Madouc,

Madouc99 schrieb: Ich sagte, dass wenn sich die Menschheit ins Universum ausbreiten könnte, wir uns wahrscheinlich nicht anders verhielten als Wanderheuschrecken, ...

Dann entschuldige ich mich an dieser Stelle bei dir für meine Fehlinterpretation deiner Aussage. Dies ändert aber nicht meine Einstellung gegenüber der Menschheit.

Nachtrag:

Madouc99 schrieb: ... wenn wir Zugriff auf alle Ressourcen des Universums hätten, wäre Nachhaltigkeit kein Thema mehr. ...

Grüße, ...

Die Vorstellung, Menschen könnten einst in der Andromeda-Galaxie Erdöl fördern, hat doch was!Nämlich was Drolliges.
Diese Menschen, unbelehrbar und dumm!

Eine denkbares Entwicklungsszenario zum Thema "Menschheit breitet sich in der Galaxie aus" und "Künstliche Intelligenz" wäre folgendes:

Die Menschen entwickeln die Nanotechnologie soweit weiter, dass man sich selbst reproduzierende Naniten ins All senden kann, deren fest programmierte Aufgabe es ist, wo immer sie landen Rohstoffe abzubauen, sich daraus bis zu einer gewissen Zahl selbst weiter zu reproduzieren die Rohstoffe zur Erde zu schicken und sich selbst weiter zu verbreiten.

In wenigen Millionen Jahren hätte eine solche Technologie jeden Himmelskörper in der Milchstraße "erobert".