... ich habe mal Chat GPT gefragt

[odensee]

vor 1 Stunde von stagflation:

Was ist "Natürliche Intelligenz" noch wert, wenn eine "Künstliche Intelligenz" wie ChatGPT mittlerweile genauso schwafeln kann wie StudentInnen im Proseminar?

ChatGPT kann für in Klartext formulierten Problemstellungen Skripte programmieren. Im von mir getesteten Fall schneller als ein cleverer Praktikant.

Das Skript tat, was es sollte. Faszinierend und erschreckend.

 

edit: @RobertGray war schneller und ausführlicher.

Vermutlich hat ChatGPT seine Antwort geschrieben.

[reko]

vor 4 Minuten von odensee:

ChatGPT kann für in Klartext formulierten Problemstellungen Skripte programmieren. Im von mir getesteten Fall schneller als ein cleverer Praktikant.

Das Skript tat, was es sollte. Faszinierend und erschreckend.

Das kann es sehr gut weil es für die typischen Fragen gelernt wurde. Es klingt plausibel, ist es aber nicht immer, insbesondere wenn die Fragen nicht mehr im gelernten Datenbestand sind. ChatGPT hat keine Vorstellung davon was mit der Frage gemeint ist, es sucht nur Muster.

[Incantation]

Das zentrale Problem im Umgang mit ChatGPT ist aktuell, dass ich mich selbst auf dem Gebiet der Frage gut auskennen muss um erkennen zu können ob das was da rauskommt korrekt sein kann oder kompletter Humbug. Der Output klingt aber in jedem Fall gut. Suche ich regulär im Internet (auf dessen Daten ChatGPT trainiert wurde) habe ich zumindest irgendwelche Anhaltspunkte - kommt die Antwort aus irgendeinem Forenpost in einem Schülerforum oder aus einem Mathematik-Scriptum einer Uni? Bei der Antwort von ChatGPT fehlt mir diese Info (es gibt nicht an woher es selbst die Information bezogen hat).

 

Das generelle Problem mit AI Systemen - gerade Deep Learning - (das sehen wir auch im Bereich des autonomen Fahrens) ist dass sie in dem Bereich wo sie entsprechende Daten im Trainingsdatensatz hatten wirklich erstaunliches leisten - dafür liegen sie wenn sie mit wirklich Neuem konfrontiert sind oft kolossal daneben.

[RobertGray]

vor 10 Minuten von odensee:

Vermutlich hat ChatGPT seine Antwort geschrieben.

[Gast231208]

Frage: Lernt Chat GPT durch meine Fragen bzw. seine Antworten, also wird es ständig besser?

[Glory_Days]

Gerade eben von pillendreher:

Frage: Lernt ChatGpt durch meine Antworten, also wird es stündlich besser?

Durch jede Eingabe vergrößert sich die dahinter stehende Datenbank. Lernen im eigentlichen Sinne kann es nicht, aber es kann seine Antworten so gesehen verfeinern/erweitern.

[RobertGray]

vor 2 Minuten von pillendreher:

Lernt ChatGpt durch meine Antworten, also wird es stündlich besser?

 

Lassen wir "ES" doch selber antworten:

 

Quelle: https://chat.openai.com/chat

[chirlu]

Gerade eben von pillendreher:

Lernt ChatGpt durch meine Antworten, also wird es stündlich besser?

 

Nein, das Modell wurde irgendwann Mitte (?) 2021 abgeschlossen. So ein Ding kann man auch nicht so einfach laufend erweitern.

[Gast231208]

vor 2 Minuten von RobertGray:

 

Lassen wir "ES" doch selber antworten:

 

Quelle: https://chat.openai.com/chat

Schade  - auf so was hatte ich gehofft - ein selbstlernender ständig besser werdender Algorithmus, also quasi der DATA von der Enterprise

[Glory_Days]

vor 2 Minuten von pillendreher:

Schade  - auf so was hatte ich gehofft - ein selbstlernender ständig besser werdender Algorithmus, also quasi der DATA von der Enterprise

Gehen wir mal davon aus, dass OpenAI die Eingabedaten sicherlich vorhält und auch nutzt - genauso wie die Registrierungsdaten der Nutzer übrigens...

[Incantation]

vor 2 Minuten von pillendreher:

Frage: Lernt Chat GPT durch meine Fragen bzw. seine Antworten, also wird es ständig besser?

Das hat jetzt verschiedene Komponenten - das Sprachmodell an sich wird nicht im laufenden Betrieb adaptiert (Online Learning) wie @RobertGray schon erwähnt hat. Innerhalb einer Konversation korrigiert es aber durchaus auf Basis der Historie in dieser Konversation und gibt Korrekturen innerhalb dieser Konversation auch entsprechend wieder (wenn man dem System sagt das es falsch liegt). In der nächsten Konversation beim selben oder einem anderen User ist das dann wieder weg.

 

Allerdings wertet OpenAI die Chatverläufe aus und lässt das teilweise in die nächsten Trainingsläufe eingehen - meistens aber nicht in Details sondern über Themenkomplexe. Gerade der Bereich der Mathematik hat hier scheinbar seit Release der Beta Verbesserungen erfahren. Das Lernen erfolgt also Offline und meines Wissens im Rahmen eines Transfer Learning (also es wir nicht wieder von Null weg trainiert sondern eine weitere Anpassung des existierenden Modells mit zusätzlichen Daten vorgenommen).

[RobertGray]

vor 1 Minute von pillendreher:

Schade  - auf so was hatte ich gehofft - ein selbstlernender ständig besser werdender Algorithmus, also quasi der DATA von der Enterprise

 

Ich denke man hat es nicht nochmal hierzu kommen lassen wollen:

 

Zitat

KÜNSTLICHE INTELLIGENZ: 

Zum Nazi und Sexisten in 24 Stunden

 

Microsoft ließ auf die Twitter-Gemeinde einen intelligenten Bot los, er sollte vom Menschen lernen. Das Ergebnis ist erschreckend vorhersehbar.

 

Quelle: https://www.faz.net/aktuell/wirtschaft/netzwirtschaft/microsofts-bot-tay-wird-durch-nutzer-zum-nazi-und-sexist-14144019.html

[reko]

Da beim Lernen nicht alles per Hand überprüft werden kann, lernt die KI auch Falsches. Wenn es mehrere solche Syteme gibt, dann lernt die KI auch von anderen KI-Systemen. Der Unsinn wird immer mehr und da alles plausibel klingt wird es sehr schwer werden richtig und falsch zu erkennen.

[Gast231208]

vor 5 Minuten von reko:

Da beim Lernen nicht alles per Hand überprüft werden kann, lernt die KI auch Falsches. Wenn es mehrere solche Syteme gibt, dann lernt die KI auch von anderen KI-Systemen. Der Unsinn wird immer mehr und da alles plausibel klingt wird es sehr schwer werden richtig und falsch zu erkennen.

Ich habe da entfernt an so was gedacht:  https://www.spektrum.de/news/kuenstliche-intelligenz-schlaegt-besten-schachcomputer-der-welt/1524575

NACH NUR VIER STUNDEN ÜBEN:Künstliche Intelligenz schlägt besten Schachcomputer der Welt

Das Programm AlphaZero, eine Version von AlphaGo, bringt sich selbst Schach bei und wird so extrem stark. 

[Incantation]

vor 2 Minuten von RobertGray:

 

Ich denke man hat es nicht nochmal hierzu kommen lassen wollen:

Erinnert mich an Age of Ultron - 5 Minuten war die KI im Internet und wusste schon: die Menschheit muss weg

 

Evtl. interessanter wie man das Problem angegangen ist, denn das stellte durchaus auch schon ohne Online Learning ein Problem dar: https://www.derstandard.at/story/2000142768897/das-schmutzige-geheimnis-von-chat-gpt-sind-kenianische-billiglohnkraefte Das ist übrigens auch so eine allgemeine Sache - eines der größten Probleme beim AI Training ist es die Trainingsdaten entsprechend aufzubereiten (Labeling). Also falls ihr euch schon mal gefragt habt warum man quer durchs halbe Internet Ampeln und Fahrräder erkennen muss (Google nutzt das nicht nur um Bots auszufiltern sondern auch dafür eben Trainingsdaten für seine Self Driving Car AIs zum Spartarif zu kriegen).

[SirWayne]

vor 57 Minuten von odensee:

ChatGPT kann für in Klartext formulierten Problemstellungen Skripte programmieren

Hatte auch schon einige Beispiele (Java), da kamen total falsche Ansätze raus. Vor allem wenn man spezielle libs verwendet, produziert es Code der nicht kompiliert. Das wurde auch schon oft negativ bewertet und in der nächsten Version sollen hier ja einige Neuerungen kommen.

Das in Mathe Nachholbedarf besteht wurde auch schon oft erwähnt.

Ich finde aber den Context schon faszinierend und das eigene Codebeispiele während einer Konversation mithilfe von Fragen verbessert werden. 
 

Ausserdem einfach ein MBA machen ist schon nicht so schlecht , wäre interessant wer das hier so schaffen würde.

https://t3n.de/news/chatgpt-abschlusspruefung-universitaet-1530465/

[magicw]

vor 14 Minuten von RobertGray:

 

Lassen wir "ES" doch selber antworten:

Bei der Selbstreflexion hadert "ES" noch ein bischen^^:

[RobertGray]

vor 4 Minuten von magicw:

Bei der Selbstreflexion hadert "ES" noch ein bischen^^:

@magicw YMMD - Hab herzlich gelacht  

[Incantation]

vor 2 Minuten von pillendreher:

Das Programm AlphaZero, eine Version von AlphaGo, bringt sich selbst Schach bei und wird so extrem stark. 

Da sind wir technologisch im Bereich des Reinforcement Learning. Quasi: das System agiert zunächst mal zufällig und erhält Rückmeldungen ob das gut ist oder schlecht was es da gemacht hat. Dementsprechend passt es dann die internen Parameter an. Das funktioniert nicht nur bei Schach sondern teilweise auch bei Computerspielen ganz gut. Allerdings hat man dabei mehrere Herausforderungen wenn man das in die reale Welt übertragen will:

 

- Bewertungsfunktion: gute Reaktion vs. schlechte Reaktion - das ist oft gar nicht so trivial so etwas aufzustellen

- Ist ein entsprechendes Lernen aus Trial and Error sinnvoll umsetzbar - ich kann z.B. die KI nicht so lange Autos gegen die Wand fahren lassen bis sie irgendwann lernt, dass das nicht gescheit ist. In der Praxis kombiniert man hier oft Ansätze (z.B. AI zur Objekterkennung, etc. aber die Entscheidungen was dann zu tun ist sind nicht gelernt sondern deterministisch vorgegeben).

- Lässt man AIs gegeneinander antreten (was hier häufig ist) klappt das in Umgebungen mit begrenzten Handlungsmöglichkeiten ganz gut (und schnell) - bei Versuchen mit Chatbots landete man bisher meistens schnell in Situationen wo diese eine "eigene Sprache" erfanden die für sie leicht zu verarbeiten war, die aber kein Mensch mehr verstand.

 

Man sieht also - da ist noch sehr viel Arbeit zu investieren. Das sagen aber auch die Leute von OpenAI und Co. Wahrscheinlich wird es darauf hinauslaufen zuerst ein Basiswissen zu schaffen das deutlich statischer ist (sich also nur noch schwer ändert) und erst darauf aufbauend alles andere. Das ist so natürlich schnell gesagt aber wie man es technisch umsetzt ist eine offene Frage. Wir können Parameter in künstlichen Neuronen vom Learning ausnehmen (die Parameter einfrieren) nur tut man sich erstaunlich schwer damit zu identifizieren welche der künstlichen Neuronen was genau abbilden - insbesondere bei so riesigen Modellen wie GPT 3.5 (das hinter ChatGPT steckt).

[chirlu]

vor 12 Minuten von pillendreher:

Ich habe da entfernt an so was gedacht:

NACH NUR VIER STUNDEN ÜBEN:Künstliche Intelligenz schlägt besten Schachcomputer der Welt

Das Programm AlphaZero, eine Version von AlphaGo, bringt sich selbst Schach bei und wird so extrem stark.

 

Solche Spiele haben den Vorteil von eindeutigen Regeln und eindeutigen Spielausgängen (Sieg, Unentschieden, Niederlage). Das macht das Lernen sehr viel einfacher.

[reko]

vor 14 Minuten von pillendreher:

Ich habe da entfernt an so was gedacht:  https://www.spektrum.de/news/kuenstliche-intelligenz-schlaegt-besten-schachcomputer-der-welt/1524575

NACH NUR VIER STUNDEN ÜBEN:Künstliche Intelligenz schlägt besten Schachcomputer der Welt

Das Programm AlphaZero, eine Version von AlphaGo, bringt sich selbst Schach bei und wird so extrem stark. 

Da gibt es einen entscheidenden Unterschied. Ein Schachprogramm kennt die Regeln und kann Richtig oder Falsch eindeutig beantworten.

[Gast231208]

Ohne Ironie: was hier für Experten aus dem Bereich der Programmierung in diesem Forum unterwegs sind, verblüfft mich.

 

vor 6 Minuten von reko:

Da gibt es einen entscheidenden Unterschied. Ein Schachprogramm kennt die Regeln und kann Richtig oder Falsch eindeutig beantworten.

Irgendwo hab ich mal gelesen, dass man noch nicht einmal die Regeln vorher mitteilen muss (glaube ich zumindest gelesen zu haben)

[reko]

vor 3 Minuten von pillendreher:

Irgendwo hab ich mal gelesen, dass man noch nicht einmal die Regeln vorher mitteilen muss (glaube ich zumindest gelesen zu haben)

Ein Schachprogramm muß wissen welche Züge erlaubt sind und wann das Spiel verloren ist.

[Glory_Days]

Können wir ChatGPT bitte mal fragen, was es vom Wertpapier Forum hält und ob das Forum für Investitionsentscheidungen hilfreich sein kann?

[magicw]

vor 16 Minuten von RobertGray:

@magicw YMMD - Hab herzlich gelach

Unter "Woke AI will be broke AI" sammelt einer Zoten des Systems hier, hier oder hier. Wer die Twitterfiles etwas verfolgt hat, findet in ChatGPT das selbe Muster. Haltungsjournalisten und sonstige Weltverbesserer werden ihre Freude an dem Bot haben, mit so einer political correctnes-Schlagseite trägt das System aber nicht zum Fortschritt bei.