Turing Test vor dem Durchbruch?

[Monger]

Wenn ich von der letzten Google Konferenz so lese...
http://m.spiegel.de/wissenschaft/technik/sprechende-computer-karl-klammers-gefaehrliche-kinder-kolumne-a-1207239.html

... frage ich mich, wie lange es noch dauern wird, bis eine KI den Turing Test besteht. Bisher war das ein rein hypothetisches Konstrukt, aber was wenn es wirklich mal gelingt?
Werden alte Menschen irgendwann stundenlang mit ihrem Fernseher streiten und diskutieren?

Die menschliche Stimme ist ja etwas ganz besonderes, sie verkörpert wie nichts anderes Persönlichkeit und soziale Interaktion. Die Gefahr dass wir eine Maschine als Wesen wahrnehmen ist mMn riesig. Wenn die sprechen kann, werden wir ihr eher Gefühle zugestehen als z.B. einem Haustier.
Hand aufs Herz: Wer würde nicht gerne die Stimme eines geliebten Menschen für die Ewigkeit konservieren?

Damit paart sich dann Social Engineering mit automatisierbarer Technik. Selbst wenn man mal keinen Missbrauch annimmt, gehen wir sehr merkwürdigen Zeiten entgegen.

[Opprobrium]

Das sind doch nur Tricks und Kniffe. Etwas an der Intonation gefeilt, ein paar Füllwörter und Komfortgrunzer eingebaut. Ansonsten sind das ja nur simpelste Standardanfragen die da erledigt werden.

Ich gehe davon aus, daß die "KI" immer noch recht leicht aus dem Konzept zu bringen ist, und schon gar nicht in der Lage ist.

Allerdings geht es letztendlich noch über den Turing Test hinaus, da der explizit nur Textbasiert ist, also ohne Intonation etc. Das Hinzufühgen der Audiokomponente samt menschlichen Eigenheiten macht es natürlich einerseits leichter "Echtheit" vorzugaukeln, andererseits lenkt es aber auch einfach ab. Ist als mehr Täuschen, Tarnen, Vertuschen als der Beweis echter Intelligenz.

Sinnvoll (oder je nach Betrachtung komplett sinnbefreit) wäre das höchstens um die KI auf die automatisierten Audiomenüs loszulassen die man durchlaufen muss wenn man z.B. bei seinem Internetprovider anruft. Dann darf da die Technik ne halbe Stunde miteinander kommunizieren und sich Annehmlichkeiten und Warteschleifenmusik und mit dann Bescheid geben wenn jemand Zeit hat mein Anfrage engegenzunehmen :biggrin:

[CokeMan]

So da sind mir gleich mal ein Szenarien eingfallen.

1. Ruf beliebig oft 110 an und melde verschiedenste Straftaten mit unterschiedlichen Stimmen.
2. Analysier die Stimme von Tel. Nr. 1 und Tel. Nr. 2 --> Rufe mit Nr. 1 bei Nr. 2 an und frage nach Geld...
3. Analysier Facebook Kontake... rufe alle mit Status "In einer Beziehung" an und mache schluss.

4. Ruf mit der Stimme von Putin bei Trump an und erkläre ihm den Krieg

[Monger]

Ich gehe davon aus, daß die "KI" immer noch recht leicht aus dem Konzept zu bringen ist, und schon gar nicht in der Lage ist.

Naja, die meisten Menschen werden wohl nicht darauf trainiert sein, Maschinen aus dem Konzept zu bringen. Könnte in Zukunft aber notwendig sein.

Mal so als Beispiel:
KI ruft bei der Sekretärin einer Firma an. Verwickelt sie in irgendein belangloses Gespräch, um sie mindestens 5 Minuten bei der Stange zu halten, um ihre Stimme imitieren zu können.
Nach 5 Minuten ruft die KI gleichzeitig 20 Mitarbeiter mit der Stimme der Sekretärin an, und versucht weitere Infos zu bekommen (Durchwahl vom Chef, wieviele Kinder er hat etc.). Nach weiteren 5 Minuten ruft die den Chef in eine inszenierte Telefonkonferenz der drei wichtigsten Ingenieure, die von ihm wichtige Daten vom Kunden erwarten, weil sie irgendeine wichtige Entscheidung treffen müssen.
In Minute 20 bekommt der Kunde einen Anruf vom Chef mit detaillierten Fragen zur Unternehmensstrategie...

Wenn man das richtig aufsetzt, kannst du das gesamte Feld aufrollen, bevor das Gespräch mit der Sekretärin überhaupt endet.

Es muss nicht klever sein. Gerade berufliche Gespräche sind meist sprachlich nicht allzu komplex. Oft genug ist die Gesprächsqualität mies, und man ist froh wenn der andere irgendwas versteht.

[Poook]

Ich gehe davon aus, daß die "KI" immer noch recht leicht aus dem Konzept zu bringen ist, und schon gar nicht in der Lage ist.


So wie dein Satz?

Hast du das Video gesehen? Beim zweiten Anruf hat eher der Mensch den Turing Test nicht bestanden.

Natürlich ist das System immer noch nicht perfekt. Wurde ja auch speziell nur für Reservierungen programmiert und soll sich im realen Einsatz auch als Google Assistent vorstellen.

Und mir ist klar, dass die beiden Beispiele Cherrypicking waren.

[Haarmann]

Monger

Das Telefon ist ein Konstrukt, das so konzipiert wurde, dass man nen f kaum von nem s unterscheiden kann aufgrund der Restriktionen. Das war nebenher Vorsatz.

Da ists eben dann schon einfacher mit nem "Fakemenschen".

[Opprobrium]

So wie dein Satz?

Zum Beispiel :D bringt selbst mich jetzt aus dem Konzept ;)

Hab mir die Telefonate angehört, ja. Es waren teilweise doch merbare Rechenpausen vorhanden, und vor allem bei Zahlen und Datumsangaben war doch wieder die typische Computerintonation zu erkennen.

Zur Not muß man halt neue rechtliche Grundlagen für Geschäfte am Telefon schaffen, aber so oft werden wirklich wichtige Dinge zwischen Unbekannten ja nicht telefonisch abgewickelt. Und wenn die KI versuchen würde Leute zu imitieren die man kennt wird das ganze sicher deutlich schwieriger.

Auerdem gibt es ja noch den Voight-Kampff Test. Telefonate könnten also in Zukunft deutlich länger und aehr viel abstrakter werden...

[Cyphermaster]

Naja, die meisten Menschen werden wohl nicht darauf trainiert sein, Maschinen aus dem Konzept zu bringen. Könnte in Zukunft aber notwendig sein.Um das zum Umgehen, könnte man auch wieder Mustererkennung in/vor jedes von außen eingehende Telefongespräch schalten, da eine KI trotz hoher Intelligenz am Ende sich zu exakt gleichende/wiederholende, weil digitale, Sprachmuster benutzt. Sozusagen ein "KI-Alarm". ;)

[Exxtreme]

Das war nebenher Vorsatz.

Vorsatz war es nicht aber man nimmt es in Kauf. Die Sprache wird stark komprimiert um die Datenmenge möglichst niedrig zu halten.

https://de.wikipedia.org/wiki/G.711

[Monger]

Um das zum Umgehen, könnte man auch wieder Mustererkennung in/vor jedes von außen eingehende Telefongespräch schalten...
Also eine Anti-KI KI. :ugly:
In Zukunft streite ich also ne Minute mit ner KI darüber ob ich ein Mensch bin, bevor ich zu meiner Team Assistenz durchgestellt werde (die sich gerade durch ihre KI vertreten lässt).
Ich wüsste nicht was daran schief gehen könnte :ugly:

[Cyphermaster]

Schief gehen kann immer was, daran ändert sich mit wie ohne KI nix...

Allerdings brauchst du wohl kaum groß lange streiten - Nach einigen Sätzen sollte die Mustererkennung ermittelt haben, ob ein Voice-Modulator oder ein Mensch am anderen Ende der Leitung sitzt. Quasi ein "Stimmen-Captcha" als Vorfilter für externe Anrufe. Passieren wird sowas ohnehin, genau wie man gegen Flugzeuge Abfangflugzeuge, gegen die Abfangflugzeuge Abfangflugzeug-Abfangraketen und gegen diese Abfangflugzeug-Abfangraketen-Abfangsysteme entwickelt hat. Wo technisch nutzbringende Möglichkeiten da sind (legal wie illegal), wird sie immer irgendjemand nutzen, bis diese wieder eingeschränkt sind/werden.

[Opprobrium]

Lesetipp: Die Waschmaschinentragödie von Stanislav Lem :)

[Reaping_Ant]

Ich denke hier passt es am besten rein: Ein sehr lesenswerter Kommentar (https://www.theatlantic.com/magazine/archive/2018/06/henry-kissinger-ai-could-mean-the-end-of-human-history/559124/) von Henry Kissinger zum Thema AI und insbesondere deren Auswirkungen auf die Gesellschaft.

Stellenweise etwas pessimistisch, aber einige der Punkte, die er anspricht, sind sehr interessant und waren fuer mich neu. Gerade die Frage, wie wir Erkenntnis im Zeitalter von Maschinenlernen bewerten, finde ich durchaus diskussionswuerdig. Wenn ein neurales Netz die Antwort auf ein Problem findet, wir aber nicht nachvollziehen koennen, wie das Netz auf die Antwort gekommen ist, ist das dann noch "Erkenntnis" im eigentlichen Sinne?

Es gibt ja durchaus auch Forschung in diese Richtung, also nach dem Training des neuralen Netzes durch reverse engineering herauszufinden, was genau das Netz eigentlich macht. Interessanterweise hat die Funktionsweise des Netzes oft keinerlei Aehnlichkeiten mit der Strategie, die ein Mensch zur Loesung des Problems anwenden wuerde. Wenn man ein neuronales Netz also als "Intelligenz" ansehen will, so ist es zumeist eine eher fremdartige Intelligenz und die Frage, wie die Interaktion zwischen zwischen Mensch und AI aussehen koennte ist ziemlich spannend.

[Colin MacLaren]

Wir haben zwei Google Home. Einer steht im Wohnzimmer, einer in der Küche.

Sage ich zum Google Home im Wohnzimmer:
"Hey Google, Wohnzimmer Licht aus."
Antwortet der Google Home in der Küche:
"Natürlich, hier ist etwas Musik von Google Play Music" und spielt "Herz an Herz" von Blümchen.

Nein, ich glaube nicht, dass die Maschinen bald die Weltherrschaft übernehmen.

[lumines]

Das Telefon ist ein Konstrukt, das so konzipiert wurde, dass man nen f kaum von nem s unterscheiden kann aufgrund der Restriktionen. Das war nebenher Vorsatz.

Kannst du das irgendwie belegen?

[Monger]

Ich denke hier passt es am besten rein: Ein sehr lesenswerter Kommentar (https://www.theatlantic.com/magazine/archive/2018/06/henry-kissinger-ai-could-mean-the-end-of-human-history/559124/) von Henry Kissinger zum Thema AI und insbesondere deren Auswirkungen auf die Gesellschaft.

Interessanter Artikel, vor allem von so einer illustren Person.
Ich denke er hat in einem Unrecht: es ist nun wirklich nicht das erste mal, dass das Verständnis einer Technologie der technologischen Entwicklung hinterher hinkt. Als die zitierte Druckerpresse entwickelt wurde, hat keiner gedacht: "Whoa, das wird Bildung grundlegend verändern, und ein neues Zeitalter mit ungeahntem technologischen Fortschritt und massiven gesellschaftlichen Verwerfungen bringen", sonst hätte man sie vielleicht gleich wieder verbrannt.
Als der elektrische Strom gefunden wurde, sah man das als kuriosen physikalischen Effekt. Es dauerte Jahrzehnte, bis jemand verstand wie man die Energie in Licht und Bewegung umgesetzt werden kann. Die Folgen die z.B. der Energiehunger für die Welt haben würde, hat natürlich auch keiner gesehen.
Ich denke, irgendwann in 50 Jahren wird man mal philosophische Bücher über die Bedeutung von Deep Learning schreiben. Dann wird man konzeptionell besser verstanden haben, was genau da eigentlich passiert.


Wenn ein neurales Netz die Antwort auf ein Problem findet, wir aber nicht nachvollziehen koennen, wie das Netz auf die Antwort gekommen ist, ist das dann noch "Erkenntnis" im eigentlichen Sinne?

Weiß nicht welcher Google Manager war... auf die Frage hin: "Gibt es einen Gott?" antwortete er "Noch nicht."
Eine KI die sinnvoll handelt, ohne dass Individuen noch nachvollziehen könnten was die eigentlich tut, hat etwas gotthaftes. Als AlphaGo gegen den Großmeister gewonnen hat, haben die Google Ingenieure übers Smartphone Updates gekriegt. AlphaGo hat da geschrieben: "Matt in X Zügen", und für niemandem am Tisch war ersichtlich, wie.

Man sollte sich aber regelmäßig vor Augen halten was Deep Learning eigentlich ist. Es ist keine Magie. Es ist eine Suche nach dem lokalen Minimum in einem n-dimensionalen Lösungsraum. Allerdings kann eine gute KI den Lösungsraum verändern, und so das Minimum optimieren, aber im Endeffekt ist es trotzdem nur ein dummer Suchalgorithmus.

Das wirft die Frage auf, wieviel von dem was wir "kreativ" und "intelligent" nennen, eigentlich nur etwas komplexere Suchen sind.

Aus Schulzeiten erinnere ich mich noch an die drei Kränkungen der Menschheit.
Galileo: der Mensch steht nicht im Mittelpunkt der Welt
Darwin: der Mensch hat keine göttliche Herkunft
Freud: der Mensch ist nicht Herr seiner Selbst

Vielleicht müssen wir bald hinzufügen:
AlphaZero: Intelligenz ist eine Illusion

[mercutio]

Naja, die meisten Menschen werden wohl nicht darauf trainiert sein, Maschinen aus dem Konzept zu bringen. Könnte in Zukunft aber notwendig sein.

Mal so als Beispiel:
KI ruft bei der Sekretärin einer Firma an. Verwickelt sie in irgendein belangloses Gespräch, um sie mindestens 5 Minuten bei der Stange zu halten, um ihre Stimme imitieren zu können.
Nach 5 Minuten ruft die KI gleichzeitig 20 Mitarbeiter mit der Stimme der Sekretärin an, und versucht weitere Infos zu bekommen (Durchwahl vom Chef, wieviele Kinder er hat etc.). Nach weiteren 5 Minuten ruft die den Chef in eine inszenierte Telefonkonferenz der drei wichtigsten Ingenieure, die von ihm wichtige Daten vom Kunden erwarten, weil sie irgendeine wichtige Entscheidung treffen müssen.
In Minute 20 bekommt der Kunde einen Anruf vom Chef mit detaillierten Fragen zur Unternehmensstrategie...

Wenn man das richtig aufsetzt, kannst du das gesamte Feld aufrollen, bevor das Gespräch mit der Sekretärin überhaupt endet.

Es muss nicht klever sein. Gerade berufliche Gespräche sind meist sprachlich nicht allzu komplex. Oft genug ist die Gesprächsqualität mies, und man ist froh wenn der andere irgendwas versteht.

Also weiter gedacht, sind KIs das Ende des Telefons und das Ende von Emails.
Weil Video-Telefonie kann eine KI auch fälschen, wenn es drauf angelegt wird.
Da man Emails und Telefonen in Zukunft nicht mehr trauen kann, wird das persönliche Gespräch wieder zunehmend von Bedeutung.

[Poook]

Es ist doch egal ob die Email von einem Menschen oder einer Maschine kommt. Nur der Inhalt ist wichtig. Wenn ich ein Angebot einholen interessiert mich nur der Umfang des Angebots und der Preis. Warum sollte ich da einem Menschen mehr trauen als einer Maschine?
Auch am Telefon wäre mir das egal, bei der Maschine weiß man wenigstens dass die Antwort auf einem Algorithmus beruht und nicht einfach schnell ausgedacht ist und sich in einer Woche, nachdem das Gegenüber in die Unterlagen geschaut hat, die Aussage um 180grad dreht.