{"id":3810,"date":"2024-12-07T17:39:21","date_gmt":"2024-12-07T14:39:21","guid":{"rendered":"https:\/\/demensdeum.com\/blog\/2024\/12\/07\/local-llms-ollama\/"},"modified":"2024-12-16T22:32:10","modified_gmt":"2024-12-16T19:32:10","slug":"local-llms-ollama","status":"publish","type":"post","link":"https:\/\/demensdeum.com\/blog\/de\/2024\/12\/07\/local-llms-ollama\/","title":{"rendered":"Lokale neuronale Netze mit Ollama"},"content":{"rendered":"<p>Wenn Sie den Wunsch hatten, so etwas wie ChatGPT zu starten, und \u00fcber einen ziemlich leistungsstarken Computer verf\u00fcgen, beispielsweise mit einer Nvidia RTX-Grafikkarte, k\u00f6nnen Sie das Ollama-Projekt ausf\u00fchren, mit dem Sie eines der vorgefertigten LLM-Modelle verwenden k\u00f6nnen Ihrem lokalen Computer, absolut kostenlos. Ollama bietet die M\u00f6glichkeit, mit LLM-Modellen zu kommunizieren. In der neuesten Version wurde auch die M\u00f6glichkeit angek\u00fcndigt, Bilder zu lesen und die Ausgabedaten im JSON-Format zu formatieren.<\/p>\n<p>Ich habe das Projekt selbst auch auf einem MacBook mit einem Apple M2-Prozessor ausgef\u00fchrt und wei\u00df, dass die neuesten Grafikkartenmodelle von AMD unterst\u00fctzt werden.<\/p>\n<p><img decoding=\"async\" src=\"https:\/\/demensdeum.com\/blog\/wp-content\/uploads\/2024\/12\/mediaollama_logo.jpg\"><\/p>\n<p>Um es unter macOS zu installieren, gehen Sie zur Ollama-Website:<br \/>\n<a href=\"https:\/\/ollama.com\/download\/mac\" rel=\"noopener\" target=\"_blank\">https:\/\/ollama.com\/download\/mac<\/a><\/p>\n<p>Klicken Sie auf \u201eF\u00fcr macOS herunterladen\u201c. Sie laden ein Archiv der Form ollama-darwin.zip herunter. Im Archiv befindet sich Ollama.app, das nach \u201eAnwendungen\u201c kopiert werden muss. Starten Sie anschlie\u00dfend Ollama.app. Der Installationsvorgang wird h\u00f6chstwahrscheinlich beim ersten Start ausgef\u00fchrt. Danach haben Sie in der Taskleiste das Ollama-Symbol gesehen, die Taskleiste befindet sich oben rechts neben der Uhr.<\/p>\n<p>Starten Sie anschlie\u00dfend ein normales macOS-Terminal und geben Sie den Befehl ein, um ein beliebiges Ollama-Modell herunterzuladen, zu installieren und auszuf\u00fchren. Eine Liste der verf\u00fcgbaren Modelle, Beschreibungen und ihre Eigenschaften finden Sie auf der Ollama-Website:<br \/>\n<a href=\"https:\/\/ollama.com\/search\" rel=\"noopener\" target=\"_blank\">https:\/\/ollama.com\/search<\/a><\/p>\n<p>W\u00e4hlen Sie das Modell mit den wenigsten Parametern, wenn es beim Start nicht in Ihre Grafikkarte passt.<\/p>\n<p>Beispielbefehle zum Ausf\u00fchren des Modells llama3.1:latest:<\/p>\n<div class=\"hcb_wrap\">\n<pre class=\"prism line-numbers lang-bash\" data-lang=\"bash\"><code>\nollama run llama3.1:latest\n\n<\/code><\/pre>\n<\/div>\n<p>Die Installation f\u00fcr Windows und Linux ist im Allgemeinen \u00e4hnlich, in einem Fall gibt es ein Ollama-Installationsprogramm und die weitere Arbeit damit \u00fcber Powershell.<br \/>\nBei Linux erfolgt die Installation \u00fcber ein Skript, ich empfehle jedoch die Verwendung der Version Ihres spezifischen Paketmanagers. Unter Linux kann Ollama auch \u00fcber ein normales Bash-Terminal gestartet werden.<\/p>\n<p>Quellen<br \/>\n<a href=\"https:\/\/www.youtube.com\/watch?v=Wjrdr0NU4Sk\" rel=\"noopener\" target=\"_blank\">https:\/\/www.youtube.com\/watch?v=Wjrdr0NU4Sk<\/a><br \/>\n<a href=\"https:\/\/ollama.com\" rel=\"noopener\" target=\"_blank\">https:\/\/ollama.com<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Wenn Sie den Wunsch hatten, so etwas wie ChatGPT zu starten, und \u00fcber einen ziemlich leistungsstarken Computer verf\u00fcgen, beispielsweise mit einer Nvidia RTX-Grafikkarte, k\u00f6nnen Sie das Ollama-Projekt ausf\u00fchren, mit dem Sie eines der vorgefertigten LLM-Modelle verwenden k\u00f6nnen Ihrem lokalen Computer, absolut kostenlos. Ollama bietet die M\u00f6glichkeit, mit LLM-Modellen zu kommunizieren. In der neuesten Version wurde<a class=\"more-link\" href=\"https:\/\/demensdeum.com\/blog\/de\/2024\/12\/07\/local-llms-ollama\/\">Continue reading <span class=\"screen-reader-text\">&#8220;Lokale neuronale Netze mit Ollama&#8221;<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[49],"tags":[],"class_list":["post-3810","post","type-post","status-publish","format-standard","hentry","category-blog","entry"],"translation":{"provider":"WPGlobus","version":"3.0.2","language":"de","enabled_languages":["en","ru","zh","de","fr","ja","pt","hi"],"languages":{"en":{"title":true,"content":true,"excerpt":false},"ru":{"title":true,"content":true,"excerpt":false},"zh":{"title":true,"content":true,"excerpt":false},"de":{"title":true,"content":true,"excerpt":false},"fr":{"title":true,"content":true,"excerpt":false},"ja":{"title":true,"content":true,"excerpt":false},"pt":{"title":true,"content":true,"excerpt":false},"hi":{"title":false,"content":false,"excerpt":false}}},"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/posts\/3810","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/comments?post=3810"}],"version-history":[{"count":18,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/posts\/3810\/revisions"}],"predecessor-version":[{"id":3828,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/posts\/3810\/revisions\/3828"}],"wp:attachment":[{"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/media?parent=3810"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/categories?post=3810"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/demensdeum.com\/blog\/de\/wp-json\/wp\/v2\/tags?post=3810"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}