Mesterséges Intelligencia: Prolog, Lisp

AI használatának munkahelyi szabályozása

Nem találtam gyors keresés után konkrétan ilyen témát nyitva. Pénteken kaptam egy szerződés tervezetet egy új freelancer munkához és újdonság, hogy az ügyfél külön fejezetet szentel a címben említett témának "Usage of AI systems" címszó alatt. Még mielőtt valaki azt tanácsolná, "hogy ne puskázz ha félsz a lebukástól", ez egy korrekt ügyfél és nem tiltani akarja az AI használatát (freelancer-ként rád van bízva hogyan éred el a célt), hanem a saját érdekei mentén szabályozni szeretné. Az általuk válaszott fő referencia pont a "https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng", de hányingerem lett a vasárnapi ebéd előtt ettől a kilométeres jogi sallangtól.

Három konkrét kérdésem lenne, ha valaki esetleg ilyen szabályozás mentén kénytelen dolgozni:

  1. Melyik a leghasználhatóbb security framework, ami taglalja mire érdemes figyelni publikus LLM használata során? Nem jogi megfelelés érdekel feltétlenül, hanem inkább ilyen best practice szerű dolog.
  2. LLM által közvetlenül készített szöveg (fordítás emberi nyelvek között, valamilyen kódrészlet, valamilyen konfigurációs részlet, etc.) milyen módon szabadítható meg a legkönnyebben BÁRMI metadata-tól, ami arra utal, hogy LLM készítette? (Nem, nem azért mert sérteni akarom a szerződést, hanem az uniformitás/csótánykarakterek kivédése miatt [a szerződés más pontjában elfogadom, hogy csak olyat csináltam AI-al, amit szabad, függetlenül attól hogy nem utal semmilyen metadata arra hogyan készült pl. a kódrészlet])
  3. Mi vonatkozik a népszerű beépített AI asszisztencia toolokra, pl. VS Code kontextus alapú segítség, vagy Copilot, etc. ahol nem közvetlenül az LLM-et használod? Továbbá az így készült kódrészlet tartalmaz rejtett metadata-t?

Köszönöm az észrevételeket.

AI MCP integráció

sziasztok,

[OFF] a topic kicsit félrevezető, nem Prolog, nem Lisp. érdemes lenne ezeket kivenni a megnevezésből, vagy létrehozni egy AI/LLM topic-ot. [/OFF]

AI klienst/klienseket szeretnék integrálni MCP szerverrel/szerverekkel. kezdő vagyok a témában, hobbista, előfordulhat, hogy nem fogalmazok elég pontosan, vagy nem jól használok fogalmakat.

A CÉL: AI modeleknek hozzáférést biztosítani email fiók(ok)hoz, GDrive fájlokhoz, Google naptár(ak)hoz, és még egyéb erőforrásokhoz, ami menet közben felmerül, és hasznosnak tűnik. a hozzáférés írást, olvasást, létrehozás, törlést és egyéb ésszerű műveleteket takar. a végső cél rutinszerű, favágás jellegű napi rutinok kiszervezése AI asszisztens számára, pl. "olvasd át a mai emaileket, melyek tárgyában vagy szövegében szerepel a <tárgy> szó, foglald össze egy jegyzetben az ebben szereplő fontosabb fejleményeket, információt, ezt helyezd el egy GDoc fájlban dátummal, töltsd ki ezek alapján egy adott GSheet vonatkozó sorait, hozz létre ezek alapján egy naptárbejegyzést, küldj az ezek alapján összegyűjtött kulcsadatokról egy emailt egy bizonyos címre, írd meg egy adott Slack channel-be, ha készen van" stb.
mindezt felhőben szeretném futtatni, lehetőség szerint docker konténerekben, az LLM modeleket API-n keresztül hívva (ha nagyon muszáj, lokálisan futtatva). nem zárkózom el az előfizetésektől, de amíg kísérletezek, csak kisebb összeget áldoznék erre (5-20$).

AHOL TARTOK:
- vannak API kulcsaim OpenAI-hoz, Anthropic-hoz, Google AI Labs-hoz, jelenleg free plan korlátokkal. van Zapier fiókom.
- telepítettem docker-be LibreChat-et, Open-WebUI-t, LiteLLM-et, elérem a felsorolt szolgáltatók modeljeit, tudom őket használni.
- Zapier-ben létrehoztam MCP szerver(eke)t, felvettem tool-okat, létrehoztam action-öket.

AMI NEM SIKERÜL: összekötni a klienseket az MCP szerverrel (Zapier). megvan a kapcsolat linkje, felveszem pl. LiteLLM-be (streamable http, no auth), de nem látja a tool-okat. LibreChat-ben is létrehoztam egy asszisztens-t Zapier hozzáféréssel, tudok vele küldetni emailt a fiókomból, de ennél többre nem sikerült rávennem még. sem email olvasásra, sem cimkézésre pl.

AMIT SZERETNÉK: konkrét tapasztalatokat, mit hogyan érdemes. milyen model, milyen kliens, milyen proxy/bridge, milyen MCP szerver. ezeket konkrétan hogyan tudom integrálni. használható videókat, leírásokat, magyarul vagy angolul. nagyjából értem, mit hogyan lehet, kellene, de egyelőre elveszek a sok információban, elakadok a sok platform részleteiben, úgy vélem, olyasvalaki segítsége jönne most jól, akinek sikerült már összehoznia hasonlót, ismeri a buktatókat, képben van a korlátokkal, van konkrét tapasztalata.

előre is kösz.

Tarpitekkel az AI ellen: új háború kezdődik?

Az AI nem csak segítséget jelent, hanem kéretlenül leszív minden adatot, sokszor teljesen ignorálva a robots.txt szabályait. Ha készítesz egy honlapot, aminek a tárhelye forgalomarányosan fizetős, akkor ez pénzben is mérhető kárt okoz. Az elvi részéről nem is beszélve.

Vannak, akik felveszik a kesztyűt és használhatatlan, hamis adatokkal etetik az ilyen crawlereket. Vagyis tarpiteket telepítve háborúznak az AI robotok ellen.

https://arstechnica.com/tech-policy/2025/01/ai-haters-build-tarpits-to-…

Apple "AI" vs. "Samsung" AI - avagy Steve Jobs forog a zsírjában

Apple "AI" vs. "Samsung" AI - avagy Steve Jobs forog a zsírjában

🍿

Egészen emlékeztet arra, amikor az Apple kidobta a Google Maps-t, majd saját térképmegoldásra váltott. Aminek szépséghibája csak az volt, hogy nem volt benne köszönet.

🤣

Traning self hosted language model - milyen szoftverrel?

Folytatás innen.

Ide várnám OS-el, NVIDIA driverrel és CUDA Toolkittel, Pythonnal, Python 'IDE'-vel, PyTorch-al, Tensorflow-val vagy egyéb szoftveres dologgal kapcsolatos tanácsokat.

 

Jelenleg egy szűz Debian Trixie fut a gépen, de bármilyen Linux lehet, de lehetőleg grafikus felület nélkül.

Azt látom, hogy szinte minden Python-ban készül, be is írattam magam gyorsan egy Python továbbképzésre.

Python fejlesztői környezetnek szimpatikus a NeoVim for Python.

Fordítás AI-val, de nem a szokásos módon, hogyan melyikkel?

 

Előszó:

Van egy 6 kötetes könyvsorozat. Ebből 4 már rendelkezik fordítással az utolsó kettő nincs tervben mert nem fogyott. Ugorjunk. Eddig meg vannak epub-ban de Calibre txt-be is átalakítja, ha arról van szó, hogy az AI nem tudja mi az.

Az elképzelés:

0. Könyvek feltöltése txt-ben. Prompt megírása. Már amennyire meg tudom írni és nem marad ki semmi.

A Prompt:

1. Analizálás - tanulmányozza a meglévő fordítást és az eredeti szöveget, készítsen szótárat, erre nem vagyok kíváncsi, tartsa magában mert kelleni fog.

2. Kimaradt részek pótlása - vagyis a le nem fordított mondatokat illessze be a meglévő szövegkörnyezetbe.

2a) Vannak kikötéseim szavakat és személyneveket ill. Vannak tulajdonnevek, amelyeket a korábbi fordító is lefordított és folytatni kellene, mert ez egy jó húzás, de itt nem sorolnám feleslegesen.

3. Helyesírási hibák javítása - itt az elütésekre gondolok

4. Stílus - használjon markdownt - maradjon a meglévő magyar stílus használatánál a párbeszédeknél, monológoknál, megszólalásoknál DE! Ha hiányzik komplett ilyen mondat, akkkr a magyar — gondolajjellel vagy mivel kezdődő stílust (ehhez további utasítások is kellhetnek szóval majd felütök valami szabályzatot, hogy ezt hogyan kell, előzetesen keresésemben ehhez is találtam leírást a neten) használja az angol "" idézőjeles helyett. Továbbá a dőlt és/vagy félkövér kiemeléseket nyugodtan hozhatja az angol szerint, mint ahogyan az eredeti műfordító is így tett. Az angol 3pontot ... helyettesítse az egy karakteres …-al. Bekezdések első sora egy tabulátorral beljebb húzva, az időbeli ugrások a belső szövegben mehet az angol *** csillaga szerint.

5. Kérem a 4 magyar fordítást javított és bővített verzióban - sima txt de benne legyen a markdown.

6. Az utolsó két könyvhöz használja a saját szótárát, amit a négy könyv fordításából hozott létre, amivel nem boldogul jelezze és megbeszéljük, hogy mi lehet a mondat.

7. Kérem az utolsó két könyv fordítását txt-ben markdownnal

A valóság:

Melyik AI tudja ezt? A chatgpt plus elvérzik rajta ... vagy én vagyok szerencsétlen hozzá már nem tudom mert kiidegelt. Az első fejezet felénél tovább bármennyire is unszolom nem jut. És írja hogy tessék a teljes első fejezet. -Hát ez papám 30-adjára mondom NEM az! -Valóban nem az. Készítsem el a teljes első fejezetet? -Igen! -Tessék a teljes első fejezet javított bővített változata. -Most hülyének nézel? -Valóban nem a teljes első fejezet. kéred az... -ANY.D! Nna ekkor elmondom neki hogy ettől a sortól eddig a sorig. Menni fog? -Igen így már értem. Tess... VESSZÉL MEG! -Megértem hogy frusztrált vagy...

Traning self hosted language model - milyen vassal?

Gondoltam játszok egy kicsit az AI-al, de kevés infóm van a vas kiválasztásához.

Úgy látom házi körülmények között az Nvidia videó kártya a nyerő, de nem tudom mi alapján válasszak kártyát? A traning-nél mi számít, a Tensor Core, a CUDA vagy valami egyéb?

1 vagy 2 db RTX3080 TI felé hajlok, csak gondoltam a tettek előtt rákérdezek. 

Update (2025-01-11):

A vas egy RTX3090 lett egy HP Z4 G4 workstation-ben (CPU: W-2245, RAM: 64Gb, Storage: 1Tb SSD).

Indulhat a buli, folytatás itt.