Best AI tool for ...

Már összeszedték mások:

https://theresanaiforthat.com/

Ha találsz text to speech-re magyar megoldást, ami offline mp3-ba ment, akkor írd meg kérlek. Egy ideje keresek ilyet.

sub

Programozásra nekem Aider vált be a legjobban. Ez egy helyben futó konzolos ügynök, ami a helyi fájljaidon dolgozik.

Nagyon komoly cucc, szerintem a fizetős ügynökök is gyermetegek még ehhez képest. Aider legutóbbi kiadásaiban az új kódok 50-70%-át már Aider írta.

Akármilyen modellre, modellekre rá tudod kötni. Szerintem előfizetni értelmetlen bármire is. Én OpenRouterre töltöttem fel pár dollárt, azzal használom.

OpenRouter egy proxy, ami a legtöbb modellhez tud csatlakozni és felhasznált tokenenként vonogatja az egyenleget. Minden modellnek más ára van.

Jellemzően úgy használom, hogy architect modellnek Claude-3.5-Sonnet van beállítva (ez a modell nagyon jó tervező, de szerkesztésre túl drága használni), editor modellnek pedig DeepSeek-et használom. Ez nagyon olcsó és teljesen jól működik Claude-dal együttműködve. Érdekes figyelni, ahogy a két modell társalog egymással :)

Persze érdemes más modelleket is kipróbálni. Nekem például az ingyenes experimental Gemini modell C++ kódolásra nagyon bejön. Nagyon pontos speckó alapján meglepően jó kódot generál simán önmagában is. Gondolom, a Google rengeteg belső C++ kódján tréningezték.

Javascriptre egyértelműen Claude-3.5-Sonnet a legjobb jelenleg szerintem, de GPT-o1 sem rossz, csak értelmetlenül drága.

Aiderrel mg tudod csinálni akár azt is, hogy minden generálás után futtassa a unit-teszteket és a hibák alapján tovább szerkesszen a kódon.

én is felveszem a subát

sub

sub

sub

Sub

A Bito -t fizettem elő 10X Developer Plan -ben, Java kódoláshoz, IDEA Ultimateben pluginnel.

15 $ havonta.

A GPT-4o -val használom. Amiket tud:

- Ha jól felkommentezem a megírandó class -t, szinte kitalálja, hogy mit is akarok írni, csak a tab -ot kell lenyomni a ... megjelenése után.

- jUnit test case -ek generálása, ebben elég hasznos tud lenni.

- Meglévő kód kommentezése.

- Kód optimalizálás.

Copilot valószínűleg többet tud, de arról eddig csak meetup -ot láttam.

Van plugin hozzá VSCode -hoz is.

> speech to text (magyarul és angolul is)

whisper, irtam is rola

> nagyobb szövegek (regények) nyersfordítása angol/német/francia/spanyol -> magyar

deepl.com

Github copilot, Linux alatt vscode-ban használom, böngészőben github.com oldalon is megy. Python és Shell scripthez. A teljes kódom a context, szóval képben van. Egy egy új procedúra, funkció, metódus írásakor előre bedobja a végső megoldást TAB-ra, picit sokkoló. Nagyon kell ismerni a saját kódot és az adott nyelvet, nehogy bevigyen az erdőbe.

Linux terminálba is be lehet kötni, de azt nem próbáltam.

Jó kód ötleteket ad kommentblokk alapján. Jól tud dokumentálni, kódot analizálni, refaktorálni, hibakeresésben is nagyot segít.

Sub

Szöveges feladat leírás alapján (angol teljesen jó), a feladat megoldásra előírt nyelvi verziót/dialektust/keretrendszert alkalmazni tudó és elfogadható minőségű Java/JavaScript/SQL kódot generáló on-premises nyelvi modell/modellek mik lennének? Helyben futtatás ésszerű ráfordítás mellett (pl. egy dedikált 24GB rtx 3090 gpu még belefér munkahelyenként, de egy A100 cluster nem), sw engineering személyi productivity toolként használva LLM-et. Cloud LLM használatát nem látnám szívesen a fejlesztési folyamat részeként, igazából nem is engedném, ahogy verziókezelőként is on-prem git van nem github stb. On-prem is elsősorban csak kíváncsi vagyok mintsem különösebben hinnék benne. Nem a kód előállítása a lead time egy fejlesztési folyamatban, mindegy hogy cr vagy hibajavítás, vagy új funkció. Ha ennek az idejét egy ilyen generátor praktikusan nullára redukálja (senior/szakértő dev-ek vannak nem mankó kell nekik hogy meg tudják csinálni a munkát, hanem segédeszköz a termelékenység javításra), az egy számszerüsíthető, pénzértéken is kifejezhető jellemző, de továbbra sem az a főidő, a fejlesztési folyamat egészének kockázata, összetettsége nem sokat fog csökkenni vele, talán semennyit csak másképp lesz bonyi.   

TTS-re sokan a fizetos elevenlabs-ot ajanljak, de helyileg futtatva vannak nagyon jo hangklonozo eszkozok. Az xtts-v2 mar nincs fejlesztve, de erre epul a chattts es az alltalk is, de huggingface-en van nagyon sok jo tts modell (f5tts) (nehany, pl az alltalk nagyon jo hanangklonozasra) - hangoskonyv gyartasra is. Stt-re egyertelmuen az openai whisper jo, abbol a nagyobb modellek szepen atirjak a magyart is. Alacsony igennyel a silero , piper is elfut.

Egy csomo dologra lehet hasznalni egy helyileg futtatott ollama-t vagy vllm-t, pl az ooo ollamat is tud hasznalni parancssorbol, parancssori egysorosokat tud gyartani szovegbol.

Kepfelismeresre nagyon helyi modellek vannak, a pixtral, llava nagyon jok, es van egy microsoft modell is ami foleg user interface screenshotok struktruralt leirasara jo.

Adattudomanyra meg nem sok jot lattam, de adatszerzesre , kinyeresre van nehany modell, peldaul a LlamaIndex. 

Programozasra az aider, pythagoran mind jonak tunik, egyelore nekem a helyi modellek gyengenek tunnek hozza. De a mistral es a supermaven, tabnine is ad ingyenes api-t programozashoz, sok vs code plugin tudja hasznalni.

Az open webui es a textgenerationwebui (oobaguba vagy mi a neve), es a gpt4all (m1 macen is) is jol elfut a gepen, tud pdf-t olvasni es szoveget generalni. 

Telefonon is lehet futtatni par modellt, a "pocket pal" nalam elketyeg. 

Egy 3090-esen en is gondolkodom. Most az egyik legolcsobb 24gb-os kartya.

Tegnap reggel lázas delíriumban üldögéltem a gép előtt (flú), és az éppen folyamatban lévő szekrényépítési projekten nyöszögtem: Cut-out plant kellene csinálni, hogy a meglévő rétegelt lemez lapokat minél inkább veszteségmentesen vághassam föl a kívánt méretű darabokra. Hallottam, hogy van olyan szoftver, ami tud ilyet, de nem szerettem volna a pilótavizsgás CAD-okat beüzemelni, szóval gondoltam, megkérdezem ChatGPT-t. Ajánlott is rögtön három Linuxos megoldást is, amiből az egyik egy Python library volt (py3dbp). No, gondoltam, nekem az lesz a legjobb, kértem, hogy írja meg nekem a kódot is hozzá, szépen leírtam neki a szitut. (Van 5 nagy lapom, az akarom szétvágni 24 kisebb darabra úgy, hogy ne legyen túl sok hulladék.) Mit ne mondjak, szépen ki is köpte a kódot, még az is ment neki, hogy ne szövegesen, hanem PDF-be exportált grafikába adja meg a kimenetet. Majdnem tökéletes lett a megoldás, csak néhány paramétert kellett állítgatni, és meg is volt kulcsrakészen minden kb fél óra alatt. Meglepett, pozitívan.

.

Gyógyításban, diagnózis felállításban valakinek tapasztalat?

Lokálisan (on-prem) futtatok Ollama-t, azon llama3.1:70b-t, mixtral:8x22b-t, és más kisebb modeleket, RTX4000 Ada Gen GPU-n. Open WebUI felületen érem el az Ollama-t a lokál hólózaton, próbálom okosítani a modeleket RAG segítségével, Apache Tika dokumentumfelismeréssel. (Eléggé érdekel ez a téma, ez egy sub.)

Ez konkrétan ijesztő, mert a legtöbb felhasználó simán ráengedi az infrára, de jó játék.

Van ott videó az oldalon kis ízelítőnek.

Csak egy általános összefoglaló:

Humorizál, videót és zenét készít – Hova tart a mesterséges intelligencia?

Keresesre, osszefoglalasra:

perplexity (ingyenes vagy fizetos) vagy helyileg futtatva a perplexica