Ich hab’ jetzt mal eine neue Lizenz gekauft und die DT 4 Beta installiert (einfach mal ganz blauäugig) - hat soweit auch funktioniert… aber was genau - und vor allem wie überhaupt - soll denn jetzt die AI da helfen? Also meine ganzen Dokumente sortieren und filtern lassen und so - an sich eine nette Idee, aber das Chat-Fenster ist schlicht ausgegraut. Und ich finde jetzt im Handbuch auch keinen Hinweis darauf, wie man das denn jetzt anschalten sollte. Das wirkt eher wie “Da haste dann jetzt einen Chatbot” - Nö. Hab’ ich anscheinend nicht. 
Also - was mache ich da falsch? 
DEVONthink 4 selbst enthält keine generative AI. Zunächst ist es daher nötig, für den bevorzugten Anbieter, z.B. Anthropic, unter Einstellungen > AI > Chat den nötigen API Key einzugeben. Alternativ können auch lokale Modelle verwendet werden, sofern eines der Programme Ollama, LM Studio oder GPT4All installiert ist.
1 Like
Ok. Soweit, so gut. Aber: Eigentlich ist es egal, was ich den Chat frage, ich bekomme grundsätzlich die Antwort, dass auf die Dokumente nicht zugegriffen werden kann. 
Also, will sagen: Wenn ich jetzt irgendein Dokument meiner Datenbank nehme und schreibe “Fass mir das Dokument zusammen”. kommt immer nur ein “Bitte nenn mir den Titel und den Inhalt des Dokuments”.
Ich erwarte da eigentlich, dass mein Dokument gelesen werden kann (schließlich sind es ja alles OCR-konvertierte PDFs), um dann analysiert zu werden. Alles andere ist einfach nur überflüssiges “Wir haben jetzt auch generative KI”, um auf den Hype-Train aufzuspringen.
Welches Modell und welcher Prompt kamen zum Einsatz? Speziell bei lokalen oder günstigen kommerziellen Modellen ist ein guter Prompt essentiell.
Ich experimentiere gerade mit verschiedenen Modellen. Tatsächlich scheinen die lokalen Modelle wenigstens auf die Dokumente zugreifen zu können. Das ist jetzt also gerade eine kleine Abenteuerreise. 
Interessant ist: Die lokale Apple Intelligence kann Dokumente sehr viel schneller als alle anderen zusammenfassen (auch wenn sie erstmal maunzt, dass sie nichts erkennt - aber es geht).
Was ich als nächstes ausprobieren werde, ist sowas wie “Fragen zu Dokumenten stellen”. Versicherungsbedingungen z. B. “Ist xyz eigentlich versichert?” Oder ähnliches. Mal sehen, welches Modell da am ehesten hilfreich ist. Aber bisher heißt es halt meistens, dass das Dokument nicht gelesen werden kann oder dass man den Inhalt in den Chat kopieren soll.
Ich vermute, dass du da bestenfalls für triviale Fragen richtige Antworten bekommst. Diese Modelle sind ja keine gelernten Juristen, sondern auf Statistik aufsetzende Algorithmen.
Wirf mal deinen Mietvertrag in so ein Modell und frag es, wie oft der Mieter sein Bad renovieren muss. Oder seine Küche.
2 Likes
Deepseek R1 (lokal) beantwortet mir das tatsächlich nach Maßgabe dessen, was im Mietvertrag steht. Auch wenn es interessanterweise manchmal auf Englisch antwortet, auch wenn es Deutsch versteht:
09:50:02
Wie oft muss ich das Bad renovieren?
09:50:30 (assistant)
The contract does not explicitly state how often the bathroom renovation should occur. It mentions “Schönheitsreparaturen” (cosmetic repairs) in Article 3, which refers to minor repairs and cleaning by the tenant, but it doesn’t specify renovation frequency. Renovation schedules are typically left to the landlord’s discretion unless specified otherwise.
09:52:01
Gehört die Küche mir?
09:52:17 (assistant)
The kitchen appears to be included in the rental agreement as part of the leased premises. While ownership of the kitchen (including built-in appliances) typically belongs to the landlord, the tenant is responsible for its use, maintenance, and minor repairs under Article 3 of the lease.
Die Antworten sind tatsächlich besser als ich erwartet hätte.
Allerdings beachte die Aussage “the kitchen appears” … etwas scheint irgendwie zu sein. Sätze, die so beginnen sind fast immer richtig.
Eindeutiger ist die andere Antwort. Im Vertrag steht nicht ausdrücklich … es könnte aber anderswo stehen und trotzdem gelten. Ein Jurist wüsste das … vielleicht.
Ich will damit nur sagen, Antworten, die präzis klingen, müssen es nicht sein. Menschen kommunizieren dauernd so. Man nennt das Pragmatik. Sie hilft uns, schnell zu verstehen und “Inhalte” abzukürzen. Im besten Fall ist das im Interesse aller.
Aber Pragmatik kann auch gezielt irreführend eingesetzt werden.
Frage: Wo ist Peter?
Antwort: Glaubst du, ich weiss das?
Aus der Antwort schliesst man (pragmatisch), dass diese Person nicht weiss, wo Peter ist. Tatsächlich hat sie aber nichts dergleichen gesagt. Weiss diese Person, wo Peter ist, will es aber nicht sagen, ist diese fragende Antwort perfekt, um nichts zu sagen, aber auch nicht zu lügen.
Ich glaube, dass auch KIs diese “Technik” öfter einsetzten als uns bewusst ist.
3 Likes
Tja. Es ist eben nicht Sache des Vermieters, über die Häufigkeit der Schönheitsreparaturen zu entscheiden. Das weiß möglicherweise ein Mensch, der sich mit Mietrecht beschäftigt hat. Aber eben kein Algorithmus, der nur Wortfolgen berechnet.
1 Like