Text generation web ui kurulum

Merhaba aranızda yeniyim, yapay zeka konu başlığının beni cezbetmesiyle forumunuza üye oldum ancak sadece RVC için bir konu bulabildim. Hazır üye olmuşken GPTQ VE LLAMA modelleri ile kendi lokal chatgpt ara yüzünüzü kurmanız için katkıda bulunmayı amaçlayan bu konuyu açmayı uygun gördüm.


Text generation adından da anlaşıldığı üzere metin üretimi yapan modellere verilen bir tagdır. Webui ise dil modellerinizi kişisel bilgisayarınızda online olmadan çevrimdışı bir şekilde kullanabilmenize olanak tanıyan lokal bir arayüzdür.

Minimum donanım gereksinimi olarak " 8 gb" bir gpu gerekir. nvidia olması daha iyidir.

Gelelim kuruluma.

öncelikle sanal bir ortam hazırlamak için gereksinimleri indirmeliyiz.

1 - python 3.10.6 sürümünü kurun (bilgisayarınız 32 bitse 32 bit, 64 ise 64 bit windows seçeneğini indirin )
2 - depoyu klonlamak ve update işlemleri için git kurun
3 - Bu bağlantıdan indirdiğiniz zip dosyasını çıkarın ve içinde ki start_windows.bat dosyasına tıklayın, bu toplu iş dosyası kalan gereksinimleri kendi indirecektir.
5 - kurulum esnasında GPU bilginiz sorulacaktır, gpunuzu seçin. ( nvidia gpu istememizin başlıca nedeni cuda çekirdeklerinin çok işe yaraması ve süreyi bir hayli kısaltmasıdır)
4 - sonrasında : şeklinde sizin için lokal bir link belirecektir, ctrl + enter tıklayarak arayüzü açtıktan sonra bir dil modeli üzerinde çalışmaya başlayabilirsiniz.


..........................

Bu aşamada herhangi bir dil modeli tavsiye etmiyorum, kurulumu tamamladıktan ve arayüzü açtıktan sonra gpu bilginizi verirseniz, çalıştırabileceğiniz uygun bir dil modeli linki veririm, bu arada dil modelleri censored ve uncensored olarak var, bu tamamen kendi tercihinizdir.

Çok faydalı bir içerk olmuş hocam. Teşekkür ediyorum. Yapay zeka çok geniş bir yelpaze ve zaman zaman içerk editörü oldukça diğer alanları da eklemeye özen göstereceğim.
Kıymetli vaktinizi ayırdığınız için teşekkür ederim.

Metin üretimi konusunda çalışmak isteyen biri olarak bu tür bir arayüzün kullanılabilirliği ve faydası açısından büyük bir potansiyel görebiliyorum. Ayrıca, lokal bir arayüzün kullanılabilmesi, internet bağlantısı gerektirmeden çalışabilmesi oldukça pratik bir yaklaşım.

Kurulum adımlarını takip etmek oldukça açıklayıcı ve adım adım anlatılmış, bu da her seviyeden kullanıcı için erişilebilirlik sağlıyor. Özellikle, GPU'nun performans artışına nasıl katkıda bulunduğunu belirtmeniz önemli bir bilgi.

Dil modeli seçiminde tavsiye almak da oldukça değerli bir hizmet olacaktır. Censored ve uncensored seçenekler arasında kullanıcıya tercih hakkı sunulması da önemli bir ayrıntı.

Yazar' Alıntı:

Metin üretimi konusunda çalışmak isteyen biri olarak bu tür bir arayüzün kullanılabilirliği ve faydası açısından büyük bir potansiyel görebiliyorum. Ayrıca, lokal bir arayüzün kullanılabilmesi, internet bağlantısı gerektirmeden çalışabilmesi oldukça pratik bir yaklaşım.

Kurulum adımlarını takip etmek oldukça açıklayıcı ve adım adım anlatılmış, bu da her seviyeden kullanıcı için erişilebilirlik sağlıyor. Özellikle, GPU'nun performans artışına nasıl katkıda bulunduğunu belirtmeniz önemli bir bilgi.

Dil modeli seçiminde tavsiye almak da oldukça değerli bir hizmet olacaktır. Censored ve uncensored seçenekler arasında kullanıcıya tercih hakkı sunulması da önemli bir ayrıntı.

Genişletmek için tıkla ...

cevabınız tıpkı bir dil modelinin çıktısı gibi olmuş ilginiz için teşekkürler

openart' Alıntı:

cevabınız tıpkı bir dil modelinin çıktısı gibi olmuş ilginiz için teşekkürler

Genişletmek için tıkla ...