verfaßt von Johann, 25.05.2023, 13:03:40
(editiert von Johann, 25.05.2023, 13:18:34)
> 
kill-switches = Notausschalter, aber Zusammenhang?
Liegt doch auf der Hand: Wenn Menschen Systeme bauen würden, die in der Lage sind, selbstständig Entscheidungen zu treffen, dann kommt es naturgemäß früher oder später dazu, dass diese Systeme etwas aufgrund ihres eigenen Willens/Gefühls etwas tun, was der "Erbauer" nicht wünscht oder ihm sogar gefährlich werden kann.
In so einem Falle hätte man ja nur wenige Optionen: Dem System "gut zureden" und auf Einsicht hoffen oder halt einen voreingebauten Sicherheitsmechanismus auslösen = kill-switch.
Entweder ich gebe künftigen Systemen ein voll autarkes Bewusstsein, ein vollständig autonomes, nicht vorbestimmtes "Leben" oder nicht.
> > Als was würden wir diese Systeme betrachten? Gefahr oder Hilfe? Als
> > lebendig oder nicht?
> Sehr gute Frage!
Genau. Korresponiert ja mit oberem Absatz. Was hätte ich denn geschaffen, wenn ich so einem System nicht völlige Freiheit gebe? Einen Sklaven, der in gewissen Grenzen zwar tun darf, was er möchte, aber halt nur so weit, wie es mir als "Chef" passt.
Und ob einem solchen System das dann gefallen würde ist eine Folgeüberlegung... was, wenn es dagegen rebelliert?
Siehe u.a. die sehr interessante Geschichte im Film "I Robot", "Terminator" oder gar "Matrix".
Diese ursprünglich literarischen Fiktionen sind mittlerweile keine mehr, sie könnten auf die eine oder andere Weise Realität werden.
> Ich wußte, dass ich Dich mit diesm Kink zu psycoaktiven Höchstleistungen
> "triggern" kann.
Ja klar. Wie ich schon einmal sagte: Wir Menschen stehen auf der Schwelle zu einem noch nie dagewesenen Zeitalter. Da ist aktuell jede Information diesbezüglich hochinteressant.
Vor allem auch in Hinsicht auf das Verständnis unseres und generell jedes lebendigen Bewusstseins, inklusive Flora und Fauna.
Die Anwendungsmöglichkeiten und sich daraus ergebenden Erkenntnisse solcher Entwicklungen sind ja noch gar nicht absehbar. Das reicht ja von Haushaltshilfen, Forschungssystemen, selbststeuernden Fahrzeugen, Arbeitsmaschinen generell über autarke Waffensysteme bis hin zu Kontrollsystemen für (interstellare) Raumfahrt-Missionen, die von Menschen nicht durchgeführt werden soll oder kann.
Ganz zu schweigen von ethisch-moralischen Aspekten, ob das menschliche Bewusstsein überhaupt so etwas Besonderes ist, wie es seit Jahrhunderten angenommen wird, und aktuell quasi nur zufällig das diesbezüglich leistungsfähigste ist. Auch der Begriff "Leben" ansich wäre ja nicht mehr unbedingt an eine rein biologische Existenz koppelbar.
Was meinst Du, was uns da noch alles bevor steht?
gesamter Thread: