Nem találtam gyors keresés után konkrétan ilyen témát nyitva. Pénteken kaptam egy szerződés tervezetet egy új freelancer munkához és újdonság, hogy az ügyfél külön fejezetet szentel a címben említett témának "Usage of AI systems" címszó alatt. Még mielőtt valaki azt tanácsolná, "hogy ne puskázz ha félsz a lebukástól", ez egy korrekt ügyfél és nem tiltani akarja az AI használatát (freelancer-ként rád van bízva hogyan éred el a célt), hanem a saját érdekei mentén szabályozni szeretné. Az általuk válaszott fő referencia pont a "https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng", de hányingerem lett a vasárnapi ebéd előtt ettől a kilométeres jogi sallangtól.
Három konkrét kérdésem lenne, ha valaki esetleg ilyen szabályozás mentén kénytelen dolgozni:
- Melyik a leghasználhatóbb security framework, ami taglalja mire érdemes figyelni publikus LLM használata során? Nem jogi megfelelés érdekel feltétlenül, hanem inkább ilyen best practice szerű dolog.
- LLM által közvetlenül készített szöveg (fordítás emberi nyelvek között, valamilyen kódrészlet, valamilyen konfigurációs részlet, etc.) milyen módon szabadítható meg a legkönnyebben BÁRMI metadata-tól, ami arra utal, hogy LLM készítette? (Nem, nem azért mert sérteni akarom a szerződést, hanem az uniformitás/csótánykarakterek kivédése miatt [a szerződés más pontjában elfogadom, hogy csak olyat csináltam AI-al, amit szabad, függetlenül attól hogy nem utal semmilyen metadata arra hogyan készült pl. a kódrészlet])
- Mi vonatkozik a népszerű beépített AI asszisztencia toolokra, pl. VS Code kontextus alapú segítség, vagy Copilot, etc. ahol nem közvetlenül az LLM-et használod? Továbbá az így készült kódrészlet tartalmaz rejtett metadata-t?
Köszönöm az észrevételeket.
- 745 megtekintés
Hozzászólások
"csótánykarakterek"
az chatGPT/copilot rak vízjelet a generált kódba?
- A hozzászóláshoz be kell jelentkezni
jah: foloslegesen sok emoji.
vagy abszolut lenyegtelen egysorost bemagyaraz:
delay(20); // cpu-friendly delay loop
Szoval megvan az AI ismertetojegyei, hívhatjuk vizjelnel is.
Saying a programming language is good because it works on all platforms is like saying anal sex is good because it works on all genders....
- A hozzászóláshoz be kell jelentkezni
Kivéve ha utasítod hogy nem kell magyarázó komment és ne használjon emojikat. Egy session-ön belül meg szokta jegyezni. De ha IDE-ben, rules-ok köze felveszed sosem fogja csinálni. (elvileg)
- A hozzászóláshoz be kell jelentkezni
Én ezt a dolgot a józan ész felől közelítem meg.
Üzembiztonság:
Egyrészt ahogy korábban, a google/stackowerflow érában sem egy-az-egyben vettem át kódrészletet külső forrásból, hanem csak annak megértése után, a cél kódstílusnak megfelelően átírva helyztem el, ugyanígy az AI által javasolt megoldásokat sem egy-az-egyben veszem át, kivéve, ha csak annyit kérdezek tőle, hogy a foobar parancsnak melyik kapcsolója kell valamihez.
Adatbiztonság:
Ahogy korában sem tettem fel olyan kérdéseket a google-nak, hogy "XY v1.2.3.build5 topology AB NM config proper value VW" várva a csodát, most sem kérdezek olyan az AI -tól, hgy "itt van XY szoftver v1.2.3.build5 verziója amit AB topologiával használ a cégem, ebben a NM konfigban van egy VW érték, ennek minek kell lennie?", hanem úgy fogalmazok, hogy abból ne derüljön ki olyan, ami kényes lehet.
Ez utóbbiban a security arcok nyilván sokkal paranoiásabbak mint én, szerintük azt sem kéne elárulni, hogy számítógépeket használunk és nem három konténer kicsi kínait kockás papírral és ceruzával. Nehéz vitatkozni a mindenről kuss elvével, hiszen hibátlan. Csakhogy az élet olyan, hogy én speciel mindegyikőtökről tudom, hogy számítógépet használ a melóba, és még azt is hogy Linuxot és/vagy Windowst, és még azt is betippelem, hogy használtok MS AD -t, sőt, még arra is van merszem, hogy azt mondjam, nem túl régi verziókat használtok.
Na, cirka ennyit tud rólatok az AI is, ha megkérdezitek a gzip vagy az xz tömörítésről, egy random powershell parancsról, vagy úgy nagyjából bármiről, ami olyan általános cucc, hogy nagyjából mindenki használja.
Mi olyat használ a megbízód, ami titkos adat? Hogy Mysql helyet Postgre? Vagy hogy SVN helyett git van nála? Nagy kaland.
Persze az én véleményem sem a security csapatot, sem a jogi osztályt nem hatja meg, őket azért fizetik, hogy szemellenzősek legyenek, szerintem vannak cégek, akik már azért is kivégzőosztag elé állítanák a jómunkásembert, mert itt a HUP -n meg merte kérdezni, hogy hogyan kell root felhasználót jelszóval beengedni ssh ... bocs, rossz példa, az ilyet én is azonnal lelőném. :-)
- A hozzászóláshoz be kell jelentkezni
A cég gondolom nem hülye, tehát
- Nem fog eltiltani az AI használattól, hogy sokkal lassabban és több munkával = drágábban rakd össze neki a munkát
- Nem akar egyértelmű támadási felületet, és így lepapírozza ki mit milyen szabályok szerint csinálhat. Az EU AI Act kb. olyan ijesztő, mint anno a GDPR volt, ami aztán szépen beállt többé-kevésbé értelmesre.
Így szépen dokumentálod miket használsz milyen célra, aztán az AI Act szerint kockázatelemzést a cég vagy te megcsináljátok, ez alapján lesz egy betartandó dokumentált szabály készlet. Hacsak nem emberek sorsáról dönt közvetlen az AI felügyelet nélkül, akkor azért nem lesz az egész bonyolult. Mivel így mindenki mindent megtett, ha az audit talál is valamit, jó eséllyel pont mint a GDPR esetén, nincs bünti, csak valami apró javítás határidővel.
- A hozzászóláshoz be kell jelentkezni
> mire érdemes figyelni publikus LLM használata
gondolom az ingyenesek felhasznaljak, esteleg meg publikussa is teszik valamilyen formaban a tartalmad, szoval azt kerulnem...
a deepseek online valtozta kinaba kuldi a contentet, gondolom azt se szeretnek...
szerintem vagy fizetoset (ahol benne van a megallapodasban hogy nem hasznaljak fel amit beirsz), vagy lokalisan futtatott (pl deepseek ugy eleg jo) llm-et hasznalj
- A hozzászóláshoz be kell jelentkezni
OT
Deepseek lokálisan elfut 16 GB memóriával? (ollamaval vagy direkt llama-cpp-vel gondolnám.)
/OT
- A hozzászóláshoz be kell jelentkezni
nem. 512GB alatt ne is probalkozz :)
- A hozzászóláshoz be kell jelentkezni
(És Raynes beszólt, hogy minek akarna valaki is 128 GB-os memóriájú laptopot venni.) Pedig végre kaptam második 8 GB-ot a T470-be :-)
- A hozzászóláshoz be kell jelentkezni
Miért nem kérdezed meg az AI-t erről?
- A hozzászóláshoz be kell jelentkezni