Tiertipp von der KI: totaler Unsinn, bei euch auch?

[AndreasL29]

Hallo zusammen,

ich muss das mal loswerden. Unser älterer Kater hat erhöhte Nierenwerte, und mein Sohn meinte, ich solle doch einfach mal die KI auf seinem Handy fragen, was er fressen darf. Gesagt, getan. Die Antwort klang total kompetent, mit Prozentangaben und allem, nur hat sie mir unter anderem Thunfisch aus der Dose als gute Ergänzung empfohlen. Unsere Tierärztin hat bei dem Satz nur die Augenbrauen hochgezogen.

Auf Nachfrage hat sich das Programm dann höflich entschuldigt und genau das Gegenteil behauptet. Man unterhält sich mit diesen Dingern inzwischen fast wie mit einem Menschen, und gerade deshalb glaubt man ihnen schneller, als man sollte.

Nutzt ihr solche Chatbots für Fragen rund ums Tier? Habt ihr ähnliche Erfahrungen gemacht oder klappt das bei euch besser?

Viele Grüße
Andreas

[Murx Pickwick]

KI ist ein Werkzeug und keine Datenbank, kein denkendes Wesen oder gar Tiermediziner, das sollte man niemals vergessen.

Die meisten KI's sind zudem Sprachmodelle, darauf getrimmt, die menschliche Sprache möglichst perfekt zu imitieren. Ich nutze sie deshalb gerne zum Sprachenlernen, indem ich mir meine Übersetzungen von einer KI überarbeiten lasse.
Weiterhin laß ich von KI's im Internet gerne nach wissenschaftlichen Arbeiten oder Fachforen suchen. Ob die Ergebnisse dann auch für mich relevant sind, muß ich selbst prüfen und mich selbst durch die Studien und Foren wühlen. Selbst die Zusammenfassungen seitens einer KI bringt nur zufällig brauchbare Ergebnisse.
KI's können nicht denken, sondern nur Wahrscheinlichkeiten ausrechnen und die Ergebnisse in verständliche Sprache umsetzen.

Auch zum Programmieren sind KI's durchaus eine große Hilfe - aber auch hier wieder, wer nicht immer wieder das ausgespuckte Ergebnis auf gewünschte Funktionalität und unerwünschten Fehlern überprüft, wird mit der KI-gestützten Programmierung sehr schnell auf die Schnauze fallen. wer gelernt hat, mit diesen Modellen zu arbeiten, programmiert extrem schnell.

Die Funktionsweise von ChatGPT, Grok und wie sie alle heißen, sind Wahrscheinlichkeitsmodelle - sie crawlen das Internet nach vielbesuchten Seiten (beispielsweise Facebookseiten von Katzenhaltern, die auch nur wenig Ahnung von ihren Haustieren haben und sich unterhalten) und holen sich dort ihre Daten, die sie dann in schöne Sätze verpacken. Je häufiger eine Seite besucht und bearbeitet wird, desto wahrscheinlicher ist es für die KI, daß diese Seite den geforderten Datengehalt liefert.
Der Mensch entscheidet dann, ob es die richtigen Daten sind ... oder nur nachgeplapperter Unsinn.
Wirkliche Schätze des Wissens dagegen können von KI's nicht erkannt werden ... dazu müßten sie Ahnung von dem haben, nach was sie das Internet durchforsten. Und dazu müßten sie denken können und mit der analogen Welt abgleichen können, was sie aber nunmal nicht können und vermutlich auch nie können werden.
Aber man kann sie anleiten und der KI Merkmale beibringen, mit der mit hoher Wahrscheinlichkeit so ein Wissensschatz gefunden werden kann.
Manchmal klappt das sogar ...

Braucht man eine KI, um wissenschaftliche Arbeiten oder Fachwissen zu durchforsten, muß man sein eigenes KI-Modell schreiben und trainieren ... die öffentlichen KI's sind dafür nicht ausgelegt, deren Modelle, nach denen sie arbeiten, können das gar nicht.
Und selbst wenn man sein KI-Modell perfekt ausgearbeitet und trainiert hat, muß das, was sie ausspuckt, natürlich auf Evidenz geprüft werden ... wenn eine KI keine Daten liefern kann, neigt sie dazu, sich Daten zurechtzurechnen - rein nach Wahrscheinlichkeitsmodellen. Man spricht bei diesem Phänomeen von Halluzination. Eine KI kann nicht ihre Daten und errechneten Werte mit der analogen Realität abgleichen, sie arbeitet nur mit Bytes, Bits und Wahrscheinlichkeiten, nicht mit Erfahrung.
Oder, um es so einfach wie möglich zu sagen: Einer KI kann man noch weniger trauen, wie einem (Fach-)buch.