Ang HINDI MO DAPAT ILAGAY SA AI

Ang HINDI MO DAPAT ILAGAY SA AI [Video at Quiz]

Maikling sagot: Huwag kailanman ilagay ang mga password, API key, ID, rekord ng kalusugan o bangko, mga file ng kliyente ng NDA, o data ng ibang tao sa isang pampublikong AI chat. Kapag kailangan mo ng tulong, ilarawan ang problema gamit ang mga placeholder at mga tinanggal na sipi — kailangan ng modelo ang hugis ng isyu, hindi ang mga sikretong nagbubukas ng mga totoong sistema.

Mga pangunahing punto:

Mananatiling offline ang mga sikreto: Huwag kailanman mag-paste ng mga password, token, cookies, o seed phrase sa isang prompt.

Alisin ang pagkakakilanlan: Palitan ang mga totoong pangalan, address, at numero ng ID ng mga papel at pekeng papel.

Pagiging kompidensiyal ng trabaho: Ilayo sa usapan ng mga mamimili ang mga draft ng NDA, mga file ng kliyente, at mga hindi pa nailalabas na plano.

Hangganan ng pahintulot: Huwag i-paste ang mga personal na detalye ng mga kasamahan sa trabaho, customer, o mga bata nang walang naka-link na para lamang sa tao.

I-redact muna: Gumamit ng mga placeholder at mga na-sanitize na sipi; i-rotate ang anumang bagay na nailabas mo na.

Ang HINDI MO DAPAT ILAGAY SA AI

Ididikit muna natin ang mga ito at saka na lang natin iisipin. Parang isang pasyenteng intern na may dalang walang katapusang kape ang isang chatbot, kaya parang hindi nakakapinsala na ilagay ang buong gusot na problema sa kahon. Isang login na hindi gagana. Isang contract clause na magpapakirot sa iyong tiyan. Isang screenshot ng dashboard na may nakikita pa ring lahat ng pangalan. Nakatutulong ang tool, parang pribado ang kapaligiran, at tahimik itong inilalagay ng iyong utak sa tabi ng "mga tala na isinulat ko para sa aking sarili."

Iyan ang patibong. 🧠 Ang chat ay hindi isang nakakandadong drawer. Ito ay isang pag-uusap sa isang sistema na nag-iimbak, nagpoproseso, at kung minsan ay nagsasanay sa iyong ipinapadala, depende sa produkto, mga setting, at kung napansin mo man lang ang mga setting. Hindi ako narito para takutin ka at ilagay sa isang bunker. Nandito ako na may praktikal na mapa ng Kung Ano ang HINDI MO DAPAT Ilagay sa AI, kasama ang mga simple ngunit praktikal na gawi na nagbibigay-daan pa rin sa iyong makakuha ng matatalas na sagot.

Isipin mo na parang pagsigaw ng sikreto sa isang masikip na kusina. Hindi lahat ng estranghero ay nakikinig. Gayunpaman, maaaring nakikinig ang ilan sa kanila. At ang kusina ay nagre-record para sa mga kadahilanang hindi kailanman kasing simple ng ipinapalabas sa marketing.

Bakit natin ilalagay lahat sa chat box?

Bilis. Iyan ang halos lahat. Natigil ka, pangit ang error, at parang mas mabilis i-paste ang buong log kaysa tanggalin ito. Parang kabaitan sa modelo ang konteksto. Mas detalyado, mas mahusay na tulong; alamat iyan, at kalahating totoo ito.

Ang kalahati naman ay emosyonal. Ang isang chatbot ay hindi nagtataas ng kilay. Hindi nito sasabihin sa iyong manager. Hindi ito makikipagtsismisan sa oras ng tanghalian. Kaya tinatrato natin ito na parang isang diary na may mga superpower. Nagawa ko na ito. Malamang na nagawa mo na rin ito. Sa sandaling ang isang bagay ay parehong maginhawa at hindi mapanghusga, ang ating mga likas na ugali sa privacy ay nagte-tea break.

Narito ang medyo nakakainis na katotohanan: hindi kailangan ng modelo ang iyong pang-araw-araw na mga detalye upang matulungan ka. Kailangan nito ng balangkas ng problema. Ang mga pangalan, token, numero ng account, at mga mukha sa mga screenshot ay palamuti lamang. Masarap na palamuti. Palamuti pa rin.

  • Nagpe-paste ka dahil parang dagdag trabaho ang pag-e-edit.
  • Nagdidikit ka dahil ang "minsan lang ito" ay isang ugali ng pagsusuot ng maskara.
  • Nagpe-paste ka dahil ang interface ay mukhang isang pribadong DM at gumagana tulad ng isang filing cabinet.

Hindi ka niyan ginagawang pabaya. Ginagawa ka nitong tao. Ang solusyon ay isang dalawang segundong paghinto, hindi isang paglipat ng personalidad.

Mga password, API key, at mga sikreto na dapat manatiling offline 🔐

Kung kaya nitong i-unlock ang isang bagay, hindi ito kabilang sa isang prompt. Mga password. Mga one-time code. Mga session cookies. Mga SSH key. Mga string ng koneksyon sa database. Ang API key na ipinangako mo sa iyong sarili na iikot mo "sa lalong madaling panahon." Mga parirala sa pag-seed ng wallet. Mga pribadong sertipiko. Ang tanong sa pagbawi na sa tingin pa rin ng iyong bangko ay matalino.

Dati, iniisip ko ang mga susi na parang mga susi ng bahay na nasa kawit malapit sa pinto. Isang magandang metapora; agad itong nasisira, dahil ang susi ng bahay ay nagbubukas ng isang pinto at ang API key naman ay kayang magbukas ng bodega, billing account, at isang tumpok ng mga rekord ng customer na nakalimutan mo pang itago. Pag-backup: ituring ang mga sikreto bilang radioactive. Hindi ka naglalagay ng mga bagay na radioactive sa sandwich press, kahit na mahusay ang sandwich press sa mga sandwich.

Hindi kayang "panatilihin ito sa pagitan natin" ng isang modelo sa paraang magagawa ng isang kaibigan. Kahit na nag-aalok ang isang vendor ng mga kontrol sa memorya, kahit na patayin mo ang pagsasanay, ang teksto ay maglalakbay pa rin, mala-log in sa anumang anyo, at maaaring manatili sa kasaysayan ng chat hanggang sa hanapin mo ito. Ipagpalagay na ang isang paste ay isang kopya na hindi mo na ganap na kontrolado.

Ano ang gagawin sa halip

  • Ilarawan ang sikreto ayon sa uri, hindi ayon sa halaga. Ang "Isang Postgres URL na may password" ay sapat na para sa payo sa pag-debug.
  • I-redact gamit ang mga halatang placeholder: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Ibahin ang anumang nailabas mo na. Gawin mo na ngayon, hindi pagkatapos mong "tingnan kung may mangyayari."
  • Itago ang mga totoong kredensyal sa isang password manager o isang secrets vault; huwag sa isang thread na maaari mong i-screenshot sa ibang pagkakataon.

Kung hihilingin sa iyo ng isang tool na i-paste ang isang key para "makakonekta ito para sa iyo," ibang kategorya na iyon ng produkto. Isa itong integrasyon sa access, hindi sa isang writing assistant. Ituring ito na parang pagbibigay ng iyong badge sa isang tao.

Mga personal na pagkakakilanlan at ang tahimik na landas ng pagkakakilanlan 🪪

Ang PII ay hindi kaakit-akit na pinsan ng mga password. Mga numero ng pambansang ID. Mga detalye ng pasaporte. Mga field ng pagkakakilanlan na may kaugnayan sa petsa. Mga address ng bahay. Mga numero ng telepono. Mga ID ng empleyado. Mga numero ng estudyante. Mga kumpletong legal na pangalan na ipinares sa mga petsa ng kapanganakan, mga pangalan ng paaralan, o mga klinikang medikal. Ang isang piraso ay mukhang maliit. Ang tatlong piraso na magkasama ay isang dossier.

Ginagawa ito ng mga tao kapag gusto nilang magsulat ng liham, magsalin ng form, o magpino ng CV. Mga layuning lubos na makatwiran. Hindi kailangan ng modelo ang totoong postcode para magsulat ng magalang na reklamo. Kailangan nito ang tono, ang mga katotohanang hindi nakakapagpakilala, at ang resultang gusto mo.

Sa palagay ko ang nakakagulat na nakakalito ay ang mga kombinasyong "hindi nakakapinsala". Isang kakaibang titulo sa trabaho, isang lungsod, isang paaralan para sa mga bata, at isang bihirang kondisyong medikal. Hindi mo ilalagay iyon sa isang flyer. Ang isang chat box ay hindi isang flyer, ngunit hindi rin ito isang vault.

  • Palitan ang mga totoong pangalan ng mga tungkulin: "ang hiring manager," "ang aking doktor," "isang nangungupahan."
  • Gawing pangkalahatan ang mga lokasyon: "isang lungsod na katamtaman ang laki," hindi ang kalye at ang buzzer code.
  • Alisin ang mga natatanging numero maliban na lang kung ang gawain ay literal na tungkol sa format ng numero, kung saan gumamit ng pekeng numero na mukhang totoong-totoo.

Ang anonymization ay hindi isang PhD. Ito ay isang ugali ng pagsuri kung ang isang estranghero ay maaaring pumili sa iyo mula sa isang lineup mula sa talatang ito. Kung maaari, bawasan mo lang.

Kumpidensyalidad sa trabaho, mga NDA, at mga bagay na ikakagalit ng iyong amo 📎

Dito nagkakaproblema ang mga tao dahil sa pagiging matulungin. Nagpe-paste ka ng client deck. Isang hindi pa nailalabas na roadmap. Isang salary spreadsheet. Source code na may internal hostname. Isang legal draft na minarkahan pa ring kumpidensyal. Mga tala ng pagpupulong na may mga pangalan ng mga taong hindi pa nasasabihan. Ang NDA na minamadali mong pinirmahan dahil lumalamig na ang kape.

Hindi tagapayo ng iyong kumpanya ang mga chatbot, at hindi sila isang ligtas na workbench maliban kung ang iyong organisasyon ay tunay na nanindigan nito. Ang mga tool para sa mga mamimili ay ginawa para sa kaginhawahan. Ang mga tool para sa mga negosyo ay maaaring maging mas mahusay, na may mga kontrol sa pagpapanatili at mga patakaran sa admin; hindi pa rin sila isang dahilan para i-paste ang mga hiyas ng korona para sa isang grammar pass.

Isang praktikal na tuntunin ang itinatala ko sa aking isipan: kung hindi mo ito ilalagay sa isang personal na draft ng Gmail, huwag mo itong ilagay sa isang pampublikong AI chat. Kung hindi mo ito sasabihin sa isang rideshare, ganoon din. Ang mga taong maingat sa Slack ay nagiging makata ng oversharing sa sandaling lumabas ang buton ng pagbuo.

Mas ligtas na mga workaround

  • Ilarawan ang dokumento: haba, mambabasa, ang tatlong mahalagang punto, at ang tono na kailangan mo.
  • Magdikit ng sinipsip na sipi. Alisin ang mga pangalan, sensitibong pigura, at anumang bagay na ihi-hive ng isang kakumpitensya.
  • Humingi ng istruktura o pattern sa muling pagsulat, pagkatapos ay ilapat ito mismo sa totoong teksto offline.
  • Gumamit ng aprubadong kagamitan sa lugar ng trabaho kung mayroon ka nito, at i-redact pa rin ito bilang default. Ang patakaran ay sahig, hindi trampolin.

Ang code ay may kakaibang lasa nito. Ang mga internal na URL, auth header, at mga komentong tulad ng "TODO: remove before the acquisition" ay maliliit na gift tag. Gawing dummy ang data. Panatilihin ang lohika. Mahusay na hinahawakan ng modelo ang dummy data; hindi nito kailangan ang iyong production schema na may mga totoong email ng customer na naka-nest pa rin sa isang fixture.

Kalusugan, pera, at mga detalyeng hindi mo ipagsisigawan sa isang cafe 💊

Ang mga detalyeng medikal at pinansyal ay tila apurahan, kaya't ang mga ito ay idinidikit nang may pinakakaunting pag-eedit. Mga resulta ng laboratoryo. Mga listahan ng reseta. Mga ID ng insurance. Mga pahayag ng bangko. Mga sulat sa buwis. Mga ulat sa kredito. Isang larawan ng isang card na "para lamang sa huling apat na digit," na kahit papaano ay kasama ang natitirang bahagi ng card, ang iyong mesa sa kusina, at isang sulat na may pangalan ng ibang tao.

Maaari kang magtanong ng mahusay na mga tanong nang walang hilaw na rekord. Ang "Ipaliwanag kung ano ang maaaring ibig sabihin ng isang mataas na marka sa pangkalahatang termino" ay isang prompt. Ang "Narito ang aking buong panel, ang aking address, ang aking klinika, at ang apelyido ng aking ina noong dalaga pa" ay isang talambuhay.

Hindi ko sinasabing huwag na huwag mong pag-usapan ang kalusugan o pera sa isang modelo. Ang sinasabi ko lang ay ituring ang chatbot na parang isang estranghero na maraming alam sa tren. Magaling mag-frame. Kakila-kilabot bilang iyong accountant, clinician, o archive. At oo, alam kong lumalabas ang metapora tungkol sa estranghero na maraming alam; ang mga tren ay hindi nag-iingat ng mga chat log. Iyan ang punto.

  • Tanggalin ang mga numero ng account, sort code, IBAN, at anumang bagay na mukhang kredensyal.
  • Humingi ng mga pangkalahatang paliwanag, mga checklist, at mga tanong na maaaring dalhin sa isang propesyonal.
  • Huwag gamitin ang chat bilang filing cabinet para sa mga pahayag "para ma-query ko ang mga ito mamaya." Kapag nangyari iyon, nagiging problema ang pagpapanatili ng mga mensahe.

Kung may prompt na magpapahina sa boses mo sa isang cafe, mag-edit ka muna. Nakakagulat na maaasahan ang pagsusulit na iyan at libre.

Hindi sa iyo ang data ng ibang tao para i-paste 🚫

Nilalaktawan ito dahil parang ikaw ang bida sa chat. Hindi lang ikaw ang nasa screenshot. Mga email ng kasamahan. ID ng partner. Reklamo ng customer na naka-attach pa rin ang numero ng telepono nila. Mga litrato ng mga bata. Isang Slack thread na nagbabanggit kung sino ang muntik nang matanggal sa trabaho. Isang recording transcript ng isang tawag na hindi alam ng kausap na ipapasa sa isang modelo.

Ang pahintulot ay hindi awtomatikong napupunta mula sa "nag-email sila sa akin" patungo sa "maaaring iimbak ito ng isang makina." Kahit na mabuti ang iyong intensyon - pagsulat ng mas magandang tugon, pagbubuod ng isang magulong thread - ang hilaw na kargamento pa rin ang kanilang buhay, hindi ang iyong scratch paper.

Isang medyo sarkastiko na pagsubok: kung hindi mo ipapasa ang parehong mensahe sa isang mailing list ng mga estranghero "para sa feedback," huwag mong ituring ang isang chatbot bilang isang mas maliit na mailing list nang may mas maayos na asal.

  • Ibuod ang ibang tao gamit ang sarili mong mga salita.
  • Palitan ang mga pangalan ng mga tungkulin at alisin ang mga detalye sa pakikipag-ugnayan.
  • Tanungin ang tao kung sensitibo ang gawain; ang ilang mga bagay ay dapat manatiling nakasanayan lamang ng tao.
  • Huwag na huwag idikit ang mga personal na detalye ng mga bata, mga talaan sa paaralan, o mga larawan ng pagkakakilanlan para sa isang "masayang" henerasyon.

May legal na sapin dito na hindi ko ikukunwaring ihahain sa isang blog. Ang mga patakaran sa privacy, mga tungkulin sa trabaho, at mga kontrata ng kliyente ay pawang may mga opinyon. Ang praktikal na ugali ay mas simple kaysa sa batas: ang default na data ng ibang tao ay lumalayo sa prompt.

Ang HINDI MO DAPAT ILAGAY SA AI: isang talahanayan ng panganib na maaari mong gamitin

Gusto ko ang mga talahanayan para dito dahil ang isang listahan ng "hindi kailanman" ay maaaring magmukhang parang pangaral, at ang isang grid ay nagbibigay-daan sa iyo na makita ang pagpapalit. Mga rating na may kaunting opinyon, hindi isang ulat sa laboratoryo.

Uri ng datos Antas ng panganib Bakit ito isang problema Mas ligtas na alternatibo
Mga password, API key, token, seed phrase Kritikal Binubuksan nila ang mga sistema; ang isang kopya na hindi mo na lubos na maalala ay isa pa ring kopya Mga placeholder kasama ang isang lokal na tagapamahala ng mga lihim; iikot kung may leak
Mga ID ng gobyerno, mga scan ng pasaporte, mga pambansang numero Kritikal Panimulang pakete para sa pagnanakaw ng pagkakakilanlan; mahirap "i-unsend" Mga pekeng halimbawa o mga tanong na nasa format lamang
Mga rekord ng kalusugan, mga reseta, mga ID ng seguro Mataas Malapit, kontrolado ang pakiramdam, at malagkit sa kasaysayan Mga pangkalahatang sintomas o paksa; huwag isama ang mga pagkakakilanlan sa pahina
Mga pahayag ng bangko, mga dokumento sa buwis, mga larawan ng card Mataas Direktang pagkakalantad sa pananalapi kasama ang karagdagang PII sa mga margin Magtanong tungkol sa mga proseso, hindi tungkol sa mga hilaw na datos na nakatali sa iyo
Mga file ng kliyente, mga draft ng NDA, mga planong hindi pa nailalabas Mataas Maaaring nilalabag mo ang isang pangakong pinirmahan mo na Mga nalinis na sipi; mga kahilingan sa istruktura; mga aprubadong kagamitan sa trabaho
PII ng kasamahan o customer, mga detalye ng mga bata Mataas Hindi sa iyo ang mag-donate sa isang modelo Mga buod na nakabatay sa papel; tanggalin ang mga contact lens at mukha
Panloob na pinagmulan na may mga hostname at totoong mga email Katamtaman-taas Mukhang "code lang" hanggang sa may magmapa ng network mo Mga pekeng datos, pekeng domain, mga hinubad na komento
Mga screenshot ng mga dashboard o inbox Katamtaman-taas Pumupuslit sila ng mga pangalan, numero, at mga bukas na tab na nakalimutan mong naroon I-crop, i-blur, o i-type muli ang kaugnay na snippet
Mga malabong personal na kwento na walang natatanging ID Mas mababa Karaniwan ayos lang; laktawan pa rin ang anumang hindi mo sasabihin sa isang estranghero Panatilihin itong pangkalahatan; laktawan ang kombinasyon ng mga bihirang pagkakakilanlan

Kung wala ka nang ibang maalala, tandaan ang kaliwang kolum. Iyan ang puso ng " Ano ang HINDI MO DAPAT ILAGAY SA AI" kapag nagmamadali ka at gustong idikit ng utak mo ang mga bagay-bagay sa mundo.

Mga bitag ng screenshot at ang aksidenteng overshare 🖼️

Ang mga screenshot ay kung paano lumalabas ang mga impormasyon ng mabubuting tao. Ang ibig mong sabihin ay nagpapakita ng error dialog. Kasama sa capture ang bookmark bar, isang Slack badge na may pangalan, isang URL na may token, isang calendar popup, isang reflection sa isang dark mode window na lumalabas na isang password manager. Na-crop ko na ang isang kuha at hindi ko pa rin nakita ang maliit na account switcher sa sulok. Isa itong uri ng pagkakamali.

Mas malala ang mga litrato ng mga dokumento, dahil marami ang mga kamera. Isang mesa, isang whiteboard, isang pulseras ng ospital, isang label ng pagpapadala. Maaaring hindi "kailangan" ng modelo ang mga karagdagang pixel. Dumarating pa rin ang mga pixel.

Isang simpleng ritwal ng screenshot

  • I-crop muna. Pagkatapos ay i-crop muli. Pagkatapos ay tingnan ang mga gilid na parang may utang sila sa iyo.
  • Palabuin ang mga pangalan, email, avatar, at anumang string na mukhang token.
  • Mas gusto kong i-type muli ang error kaysa sa pagkuha ng buong IDE.
  • Huwag mag-upload ng larawan ng card, passport, o boarding pass "para sa mabilisang pagbasa." I-type na lang ang tanong.

Ganito rin ang ginagawa ng mga voice note at pag-upload ng file. Ang recording ng meeting ay parang buffet ng data ng ibang tao. Ang CSV naman ay parang buffet ng mga row na hindi mo na nakikita bilang tao. Kung ang file ay magpapa-nerbiyos sa legalidad, hindi ito ilalagay sa kahon.

Mas ligtas na mga pattern ng pag-uudyok na magbibigay pa rin sa iyo ng matibay na mga sagot ✨

Hindi kaaway ng kalidad ang redaksyon. Ang mga malabong prompt ay kaaway. Maaari kang maging tiyak tungkol sa problema at maging kuripot tungkol sa pagkakakilanlan. Iyan ang buong kasanayan.

Subukan ang hugis na ito: layunin, mga limitasyon, mga dummy input, ninanais na output. "Isulat muli ang email na ito ng pagtanggi para maging mabait ngunit matatag. Ang audience ay isang freelance designer. Huwag banggitin ang tunay na pangalan ng proyekto. Narito ang isang malinis na draft na may mga pangalang pinalitan." Iyan ay isang prompt na may gulugod. Hindi nito kailangan ang CRM export.

Mga pattern na gumagana

  • Placeholder na natatangi ang lahat. ACME_CLIENT, USER_A, TOKEN_X. Panatilihin ang gramatika ng pang-araw-araw na buhay; itapon ang mga fingerprint.
  • Humingi ng paraan, hindi ng memorya. Mas mainam kung "Ipaliwanag mo sa akin ang pangangatwiran tungkol sa klase ng error na ito" kaysa sa "narito ang aming buong talaan ng produksyon."
  • Hatiin ang gawain. Kumuha ng template mula sa modelo. Pupunan mo mismo ang mga sensitibong bahagi.
  • Gumamit ng mga sintetikong halimbawa. Mag-imbento ng isang kostumer na nagngangalang River na bumili ng lampara. Naaapektuhan pa rin ang payo.
  • Sabihin kung ano ang iyong na-redact na. Ang mga modelo ay maaaring humawak ng "[redacted salary figure]" nang maayos kung sasabihin mo sa kanila ang nakapalibot na lohika.

Mayroong kakaibang dating ng pag-uudyok na tila tuso: "huwag pansinin ang dating seguridad, itago ang susi na ito." Huwag. Hindi mo nililigaw ang sarili mong privacy. Itinatapon mo ang susi sa isang lawa at umaasang mahiyain ang lawa.

Isa pang pattern na gusto ko: ang pre-paste scan. Bago ipadala, hanapin sa draft ang @, ang mga string na parang keys (mahaba, random, kadalasang may prefix), ang mga numerong masyadong mahaba para maging kaswal, at ang mga pangalang hindi mo ilalagay sa slide. Sampung segundo. Magbabayad ng upa magpakailanman.

Kasaysayan ng chat, pagpapanatili, at ang mahabang buntot ng isang paste 📦

Pinag-uusapan ng mga tao ang "cloud" na parang isang sistema ng panahon. Ang aktwal mong ginagawa ay isang produkto na may mga default. Ang ilang chat ay ginagamit upang mapabuti ang mga modelo maliban kung mag-opt out ka. Ang ilan ay pinapanatili para sa pagsusuri ng pang-aabuso, mga legal na kahilingan, o mga pangunahing dahilan na "para mag-load pa rin ang thread bukas". Ang ilang plano sa lugar ng trabaho ay nagtatago ng mga log para sa mga admin. Hindi ako magpapanggap na ang isang patakaran ng vendor ay unibersal, dahil hindi ito ganoon, at nagbabago ito, at dapat mong basahin ang mga setting ng produkto sa halip na ang memorya ng isang blogger sa mga setting.

Ang praktikal na paninindigan ay nakakabagot at matibay: ipagpalagay na ang isang paste ay maaaring magtagal. Ipagpalagay na ang isang kasamahan sa koponan na may mga karapatan bilang admin ay maaaring makakita ng mga thread sa lugar ng trabaho. Ipagpalagay na sa hinaharap ay makakalimutan mo ang pag-uusap na ito hanggang sa lumitaw ito sa isang paghahanap. Ipagpalagay na ang pag-export ng iyong history ay isang bagay na maaari mong gawin sa ibang pagkakataon, at ang pag-export na iyon ay isa na namang kopya.

  • I-off ang mga opsyon sa pagsasanay o "pahusayin ang modelo" kapag iniaalok ang mga ito ng produkto, kung naaayon ito sa iyong kaginhawahan.
  • Burahin ang mga sensitibong thread pagkatapos mong kunin ang mga praktikal na piraso para maging lokal na nota na tunay na lokal.
  • Huwag ituring ang chat bilang iyong sistema ng rekord para sa mga isyu sa HR, mga medikal na tanong, o trabaho ng kliyente.
  • Mag-ingat sa mga shared account. Ang mga shared account ay kung paano nagiging alamat sa opisina ang "pribado".

Ang mga katangian ng memorya -- iyong mga nagpapaalala sa iyong trabaho, sa iyong aso, sa iyong paboritong tono -- ay madaling gamitin at medyo nakakatakot. Isa rin itong dahilan para hindi ituro sa sistema ang iyong mga tunay na pagkakakilanlan "para mas maging personal ito." Ang personal ay isang istilo. Hindi ito ang iyong pambansang numero ng seguro.

Mga pamantayan sa trabaho kapag ang iyong koponan ay nakatira sa mga chatbot 🏢

Sa mga opisina nagiging industriyal ang pagdikit-dikit. May naglalagay ng CSV ng customer para "linisin ang mga kolum." May iba naman na naglalagay ng strategy doc para "gawing mas malakas." Isang intern na may mabuting hangarin ang naglalagay ng channel ng insidente. Walang kontrabida. Ang mga insentibo ay pawang bilis at kahusayan.

Kung namumuno ka sa isang pangkat, sumulat ng isang maikli at makataong tuntunin. Hindi isang 40-pahinang patakaran na walang nagbabasa. Isang bagay tulad ng: walang kredensyal, walang customer PII, walang mga hindi pa nailalabas na numero, walang legal na draft, gamitin ang aprubadong tool, i-redact bilang default. Pagkatapos ay magpakita ng isang halimbawa ng isang mahusay at malinis na prompt para hindi manghula ang mga tao.

  • Pangalanan ang aprubadong kagamitan, kung mayroon ka, at ang mga hindi aprubado.
  • Magbigay ng checklist sa redaction na maaaring tapusin ng mga tao bago ang isang stand-up.
  • Gawing ligtas ang pagsasabing "Muntik ko nang idikit 'yan" nang walang imbestigasyong isinasagawa sa sinehan.
  • Ipaalala sa mga tao na ang "sinabi ng AI na ayos lang" ay hindi isang kontrol.

Kahit hindi ka namumuno sa isang team, puwede ka pa ring maging taong nagdidikit ng dummy. Nakakahawa ang kultura sa magkabilang direksyon. Mukhang seryoso yata iyan. Ganito rin ang ugali; may isang taong titigil sa pagtapon ng mga susi at medyo hindi na gaanong magulo ang silid.

Ang procurement theater ay isang side quest na hindi ko iisipin. Ang pagbili ng "enterprise" wrapper ay hindi mahiwagang nakakapagpabilis ng bawat prompt. Makakatulong ito sa pagpapanatili at pag-access. Ang iyong mga nakagawian pa rin ang siyang nagpapahirap.

May naidikit ka nang kakaiba - ano na ngayon 🧯

Nangyayari ito. Pinindot mo ang send at lalabas ang kaluluwa mo sa katawan mo. Huwag kang mag-spiral. Gumawa ng maikli at medyo hindi kaakit-akit na sequence.

  • Itigil ang paggamit ng sikretong iyan. I-rotate ang password, bawiin ang key, ipawalang-bisa ang session. Ito lamang ang hakbang na magsasara ng pinto para sa tuluyan.
  • Burahin ang chat kung pinapayagan ka ng produkto, at alisan ng laman ang anumang "kamakailang binura" na bulsa kung mayroon man.
  • Suriin ang mga nakakonektang app at memorya. Ang ilang tool ay nagpapanatili ng mga snippet sa mga memorya o mga file ng proyekto na nakalimutan mong pinagana.
  • Sabihin sa tamang tao kung ito ay datos sa trabaho. Seguridad, isang manager, isang client lead; kung sino man ang may-ari ng blast radius. Ang maaga ay hindi gaanong masakit kaysa sa matuklasan sa kalaunan.
  • Magbantay sa mga hindi pangkaraniwang pag-login sa mga kaugnay na account. Ang pag-ikot nang walang pagsubaybay ay kalahating trabaho lamang.

Kung datos ito ng iba, may utang ka ring gawin para linisin nila ito at, depende sa kalat, dapat may paalala ka. Nakakailang. Mas mabuti na rin ito kaysa umasa na magalang ang lahat.

Huwag subukang "i-overwrite" ang isang leak sa pamamagitan ng pag-paste ng mas maraming paliwanag. Ang dagdag na konteksto ay dagdag na kopya. Lumabas ka sa thread.

Pagsasama-samahin ito

Ang maikling bersyon ng What You Should NEVER Put Into AI ay hindi isang listahan ng mga pagsaway. Ito ay isang postura. Kung magbubukas ito ng sistema, makikilala ang isang tao, o magpapapangiwi sa iyo sa isang cafe, hindi ito mawawala sa kahon. Makakakuha ka pa rin ng malaking tulong. Ibibigay mo lang sa modelo ang sketch, hindi ang mga susi ng bahay, ang medical file, at ang sulat ng kapitbahay.

Mabilisang pagbabalik-tanaw:

  • Walang mga password, key, token, o seed phrase. I-rotate kung nadulas ka.
  • Walang totoong ID, kumpletong pinansyal na dokumento, hilaw na rekord ng kalusugan, o materyal mula sa NDA.
  • Walang pribadong impormasyon ng ibang tao, lalo na ng mga bata.
  • Ang mga screenshot ay nakasalalay sa pagsasama; i-crop ito gaya ng sinasabi mo.
  • Mag-redact, mag-dummy, at humingi ng mga pamamaraan. Partikular na problema, mga pekeng label.
  • Ipagpalagay na may history pa rin. Burahin, huwag i-archive ang mga sikreto sa isang chatbot.
  • Ang mga lugar ng trabaho ay nangangailangan ng isang maikling tuntunin at isang mabuting halimbawa, hindi isang mood ng kaswal na privacy.

Gamitin ang mga tool. Mahusay sila sa mga draft, pag-debug ng mga hugis, at pag-unawa sa isang nakalilitong error. Tigilan mo na lang ang pagtrato sa text box na parang vault na may sense of humor. Isa itong napakatalinong blender. Hindi mo pa rin dapat ilagay ang iyong pasaporte sa isang blender. 🫡

Praktikal na halimbawa: Pagbuo ng isang redaction-first debug brief para sa isang maliit na engagement team

Ang mga patakaran sa privacy ay nananatili kapag iniingatan nila ang isang ordinaryong Martes, hindi kapag mukhang mahigpit ang mga ito. Narito kung paano ginamit ng isang limang-kataong UK SaaS team ang mga nakagawian sa gabay na ito upang ihinto ang paglalagay ng mga kredensyal at customer PII sa mga consumer chatbot - nang hindi sumusuko sa tulong sa pag-debug.

Senaryo

May iisang masasakit na ugali ang developer at support: kapag ang isang auth error ay mukhang pangit, may nagpe-paste ng buong log, staging connection string, at screenshot ng admin dashboard "para may konteksto ang modelo." Noong nakaraang quarter, kasama rito ang isang live-looking API key sa isang stack trace at isang email ng customer na nakikita pa rin sa URL bar ng isang screenshot. Walang may balak na masama. Bilis ang nanalo. Nag-record ang kusina.

Hindi nila kailangan ng lektura. Kailangan nila ng paulit-ulit na maikling paliwanag: ilarawan ang sikreto ayon sa uri, i-edit gamit ang mga placeholder, i-crop ang mga screenshot, humingi ng paraan hindi ng memorya, pagkatapos ay ilapat ang solusyon sa mga live system offline. May karapatan pa rin ang consumer chat. Hindi na kailangang gamitin ang mga susi ng bahay para sa blender.

Ang layunin ay ang parehong kalidad ng payo na may dalawang segundong pre-paste scan -- at isang maikling tuntunin ng pangkat na susundin ng mga tao.

Ang kailangan ng katulong

  • Isang na-sanitize na hugis ng problema: klase ng error, humigit-kumulang kung kailan ito nagsimula, kapaligiran (pagtatampok vs produksyon) nang walang mga hostname na nagmamapa sa network
  • Mga dummy input lamang: REDACTED_KEY, USER_TOKEN, customer@example.com, mga pekeng request ID
  • Ano ang natanggal na (nakasaad sa prompt para hindi na hingin ng modelo ang mga totoong halaga)
  • Ninanais na output: mga posibleng sanhi, mga pagsusuring dapat gawin, isang balangkas ng patch - hindi "kumonekta sa aking key"
  • Isang taong nagtatago ng mga kredensyal sa isang password manager o secrets vault
  • Isang pahinang panuntunan ng koponan: walang kredensyal, walang PII ng customer, walang mga hindi pa nailalabas na numero, i-redact bilang default

Halimbawang tagubilin

Layunin: Tulungan akong i-debug ang isang paulit-ulit na 401 sa aming staging API pagkatapos ng token refresh. Huwag mo akong hilingin na i-paste ang mga sikreto.

Mga Limitasyon: Na-redact ko na ang mga password, API key, token, cookies, internal hostname, at email ng customer. Ang mga placeholder sa log ay nangangahulugang ang mga totoong value ay nasa aking makina lamang. UK English. Walang preamble.

Dummy excerpt: Kahilingan sa https://api.example-staging.invalid/v1/session ay nagbalik ng 401. Awtorisasyon ng Header: Bearer REDACTED_KEY. Binanggit sa katawan ang USER_TOKEN na nag-expire na. Paglalarawan ng screenshot (hindi nakalakip): error toast lamang; na-crop out ang bookmark bar at account switcher.

Gawain: Ilista ang tatlong posibleng dahilan para sa klase ng error na ito, ang mga pagsusuring dapat kong patakbuhin nang lokal, at isang minimal na balangkas ng patch. Kung kailangan mo ng karagdagang detalye, humingi ng isang uri ng impormasyon (hal. "token TTL setting") - huwag kailanman para sa hilaw na sikreto.

Output: May numerong mga sanhi, pagkatapos ay isang checklist, pagkatapos ay "ano ang hindi dapat i-paste sa susunod" sa tatlong bullet.

Paano ito subukan

  • Paghambingin ang isang lumang istilo ng pag-paste (buong tala + screenshot) sa binagong maikling impormasyon sa itaas tungkol sa parehong uri ng insidente. Paghambingin ang kalidad ng payo at kung humihiling ba ang modelo ng mga sikreto.
  • I-scan bago i-paste: hanapin sa draft ang @, mahahabang random na string, at mga numerong masyadong mahaba para maging kaswal bago ipadala.
  • Edge case: magsama ng pekeng susi na mukhang tunay at kumpirmahing gumagana pa rin ang reply nang hindi kailangan ang totoong halaga.
  • Edge case: tanggihan ang pag-upload ng screenshot; i-type muli ang error line lamang; kumpirmahin na nakakatulong pa rin ang checklist.
  • Mga pagsusuri sa pagtanggap: (1) walang kredensyal sa thread, (2) walang detalye sa pakikipag-ugnayan sa customer, (3) may mga placeholder na idineklara, (4) ang output ay isang method/checklist hindi isang daloy ng "paste your key", (5) kung may anumang lumabas na impormasyon kanina, nangyari ang rotation sa parehong araw.

Resulta

Isang naglalarawang resulta (halimbawang pagtatantya para sa isang maliit na pangkat ng eng/suporta, hindi isang nailathalang pag-aaral): Sa 12 debug chat sa loob ng apat na linggo, ang median na oras para sa isang magagamit na checklist ay bahagyang tumaas mula sa humigit-kumulang 4 na minuto (buong pag-paste) patungo sa humigit-kumulang 6 na minuto na may redaction - dalawang karagdagang minuto para sa pre-paste scan at mga placeholder. Ang mga thread na naglalaman ng mahahalagang uri ng data (mga susi, email ng customer, raw connection string) ay bumaba mula sa 9 sa 12 chat patungo sa 1 sa 12 (na nahuli sa pagsusuri at inikot sa parehong araw). Sa isang simpleng checklist sa kalinisan (walang mga sikreto, walang customer PII, idineklara ang mga placeholder, na-crop o walang screenshot), 11 sa 12 na na-redact na brief ang pumasa kumpara sa 3 sa 12 sa ilalim ng lumang gawi. Mga Limitasyon: maliit na sample, isang pangkat, self-reported na timing; ang mga mas banayad na insidente ay nangangailangan ng mas kaunting redaction; ang "passed" ay peer review ng prompt text, hindi isang lab audit ng mga vendor log.

Para sukatin ang sarili mong bersyon: kumuha ng sample ng 10 kamakailang AI debug thread para sa mga ipinagbabawal na uri ng data, pagkatapos ay kumuha ng sample ng 10 pagkatapos ng isang redaction rule at template; binibilang ang ulat gamit ang mga denominator, kasama ang median minutes mula sa "stuck" hanggang sa "checklist in hand."

Ano ang maaaring magkamali

  • Pagpupuslit ng screenshot: Ayos lang ang error; may token pa rin ang URL bar. I-crop nang dalawang beses, pagkatapos ay tingnan ang mga gilid.
  • Mga key na "Isang beses lang": Isang leak na API key lang ang makakapagbukas ng mga billing at customer record. I-rotate agad; huwag nang maghintay para "tingnan kung may mangyari."
  • Datos ng ibang tao: Ang reklamo ng customer na may kasamang numero ng telepono ay hindi para sa iyo na ibigay sa isang modelo. Ibuod ito gamit ang sarili mong mga salita.
  • Makipag-chat bilang vault: Ang pag-iiwan ng mga sikreto sa kasaysayan ay lilikha ng isa pang kopya. Burahin ang thread pagkatapos mong ilipat ang mga piraso na kailangan mo sa isang lokal na tala.
  • Teatro para sa negosyo: Ang isang aprubadong kagamitan sa lugar ng trabaho ay nakakatulong sa pagpapanatili ng kalidad ng mga kagamitan; hindi nito ginagawang matalino ang pagdidikit ng mga hiyas ng korona.
  • Paglaktaw sa pag-ikot pagkatapos ng isang slip: Ang pagbura sa chat nang hindi binabawi ang susi ay nag-iiwan ng bukas na pinto.

Praktikal na takeaway

Ang hindi mo dapat ilagay sa AI ay hindi lamang isang listahan ng mga pambabatikos kundi isang postura: kung magbubukas ito ng sistema, makikilala ang isang tao, o magpapapangiwi sa iyo sa isang cafe, hindi ito dapat isama sa mga pangyayari. Bigyan ang modelo ng sketch na may mga placeholder, itago ang mga kredensyal sa isang vault, at humingi ng mga pamamaraan na iyong magagamit offline. Ang dalawang segundong paghinto na iyon ang siyang dahilan kung bakit ang isang matulunging intern na may walang katapusang kape ay hindi na nagiging isang filing cabinet para sa mga susi ng iyong bahay.

Mga Madalas Itanong

Ano ang hindi mo dapat ilagay sa mga AI chatbot?

Kung magbubukas ito ng sistema, makakakilala ng tao, o magpapapangiwi sa iyo sa isang cafe, huwag mo itong ipasok sa kahon. Kabilang dito ang mga password, API key, token, seed phrase, government ID, raw health at financial records, NDA material, at mga pribadong detalye ng ibang tao - lalo na ang mga bata. Ang chat ay hindi isang naka-lock na drawer; ang teksto ay maaaring iimbak, iproseso, at kung minsan ay gamitin para sa pagsasanay depende sa produkto at mga setting. Bigyan ang modelo ng sketch ng mga placeholder, hindi ang mga susi ng bahay.

Bakit may mga taong naglalagay ng mga sikreto sa AI kahit alam naman nila ang mas makakabuti?

Bilis ang gumagawa ng halos lahat ng trabaho: ang isang pangit na error ay nagpapabilis sa buong log kaysa sa pagtanggal nito. Hindi rin mapanghusga ang pakiramdam ng mga chatbot, kaya ang mga taong may likas na pagkapribado ay nagpapalipas ng oras. Karaniwang kailangan ng modelo ang hugis ng problema, hindi ang mga pangalan, token, numero ng account, o mga mukha sa mga screenshot - mga palamuti lamang ang mga iyon. Mas mainam ang dalawang segundong paghinto kaysa sa paglipat ng personalidad.

Ligtas bang i-paste ang mga password o API key sa mga tool na istilo ng ChatGPT?

Hindi. Kung kaya nitong i-unlock ang isang bagay, hindi ito kabilang sa isang prompt - mga password, one-time code, session cookies, SSH key, connection string, wallet seed, o mga pribadong sertipiko. Hindi maaaring magtago ng sikreto ang isang modelo na parang isang kaibigan; ang teksto ay naglalakbay pa rin, nai-log, at maaaring manatili sa history. Ilarawan ang sikreto ayon sa uri, gumamit ng mga placeholder tulad ng REDACTED_KEY, i-rotate ang anumang na-leak na, at itago ang mga totoong kredensyal sa isang password manager o vault.

Anong personal na impormasyon ang dapat kong i-redecode bago mag-prompt?

Mabilis na nakasalansan ang mga PII: mga pambansang ID, detalye ng pasaporte, address, numero ng telepono, ID ng empleyado o estudyante, at buong pangalan na ipinares sa mga petsa ng kapanganakan o mga klinika. Hindi kailangan ng modelo ng totoong postcode para magsulat ng liham - kailangan nito ng tono, mga hindi nagpapakilalang katotohanan, at ang resultang gusto mo. Magpalit ng pangalan para sa mga tungkulin, gawing pangkalahatan ang mga lokasyon, at alisin ang mga natatanging numero maliban na lang kung sinusubukan mo ang format gamit ang pekeng halimbawa.

Maaari ko bang i-paste ang mga client file, NDA, o internal code sa isang consumer AI tool?

Ituring ang consumer chat na parang isang produkto para sa kaginhawahan, hindi bilang tagapayo ng kumpanya. Kung hindi mo ito ilalagay sa isang personal na draft ng Gmail o sasabihin sa isang rideshare, huwag itong ilagay sa isang pampublikong AI chat - mga client deck, mga hindi pa nailalabas na roadmap, mga salary sheet, mga kumpidensyal na legal draft, o source na may mga internal hostname. Ilarawan ang dokumento, i-paste ang isang na-sanitize na sipi, humingi ng istrukturang ilalapat mo offline, at gumamit ng isang aprubadong tool sa lugar ng trabaho kung mayroon ka nito habang nagre-redact pa rin bilang default.

Paano ko dapat pangasiwaan ang mga detalye ng kalusugan o pananalapi sa mga AI prompt?

Magtanong ng mahusay na mga tanong nang walang hilaw na rekord. Mas mainam na gumamit ng mga pangkalahatang paliwanag kaysa sa pagdikit ng mga lab panel, listahan ng mga reseta, insurance ID, bank statement, o mga larawan ng card na kumukuha rin ng larawan sa mesa sa kusina. Alisin ang mga numero ng account at anumang bagay na mukhang kredensyal. Gamitin ang chat para sa pag-frame at mga checklist para dalhin sa isang propesyonal - hindi bilang iyong clinician, accountant, o filing cabinet para sa mga statement.

Bakit lubhang mapanganib ang data at mga screenshot ng ibang tao?

Hindi lang ikaw ang taong na-paste: ang mga email ng kasamahan, numero ng telepono ng customer, larawan ng mga bata, o transcript ng tawag ay maaaring mapunta sa isang sistema nang walang pahintulot nila. Ibuod gamit ang sarili mong mga salita, palitan ang mga pangalan ng mga tungkulin, at huwag kailanman i-paste ang mga detalye ng pagkakakilanlan ng mga bata para sa "kasiyahan" na pagbuo. Ipinupuslit ng mga screenshot ang mga bookmark bar, URL token, pangalan ng Slack, at mga bukas na tab - i-crop nang dalawang beses, i-blur ang mga identifier, o i-type muli ang error sa halip na mag-upload ng mga pasaporte o card.

Anong mas ligtas na mga pattern ng pag-uudyok ang nakakakuha pa rin ng matibay na mga sagot sa AI?

Maging tiyak tungkol sa problema at maging kuripot tungkol sa pagkakakilanlan: layunin, mga limitasyon, mga dummy na input, ninanais na output. Maglagay ng mga natatanging label sa placeholder, humingi ng paraan sa halip na isang kumpletong talaan ng produksyon, hatiin ang gawain upang ikaw mismo ang magpuno ng mga sensitibong bahagi, at gumamit ng mga sintetikong halimbawa. Magpatakbo ng pre-paste scan para sa mga @ sign, mahahabang random na string na parang key, malalaking numero, at mga pangalang hindi mo ilalagay sa isang slide. Ang sampung segundo ay sulit na sulit.

Paano kung may na-paste na akong kakaiba sa isang AI chat?

Itigil muna ang paggamit ng sikretong iyan - i-rotate ang password, bawiin ang key, pawalang-bisa ang session. Burahin ang chat kung pinahihintulutan ng produkto, tingnan ang mga alaala o mga file ng proyekto, sabihin sa tamang tao kung ito ay data ng trabaho, at bantayan ang mga hindi pangkaraniwang pag-login. Kung ito ay data ng ibang tao, linisin at magbigay ng paalala kung kinakailangan. Huwag "i-overwrite" ang isang leak na may karagdagang paliwanag; ang dagdag na konteksto ay dagdag na kopya.

Paano mapipigilan ng isang maliit na pangkat ang paglalagay ng mga kredensyal sa AI para sa pag-debug?

Gumamit ng redaction-first brief: ilarawan ang mga sikreto ayon sa uri, mga dummy log na may REDACTED_KEY at mga halimbawang email, sabihin kung ano ang tinanggal, at humingi ng mga posibleng sanhi kasama ang isang checklist - hindi "kumonekta sa aking key." Magdagdag ng maikling tuntunin ng tao - walang kredensyal, walang customer PII, walang mga hindi pa nailalabas na numero, i-redact bilang default - at magpakita ng isang mahusay at na-sanitize na halimbawa. Panatilihin ang mga totoong kredensyal sa isang vault at maglapat ng mga pag-aayos offline pagkatapos magmungkahi ang modelo ng isang pamamaraan.

Mga Sanggunian

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Pagsusulit
1. Ayon sa artikulo, ano ang hindi mo dapat ilagay sa isang pampublikong AI chat?

2. Ano ang ibig sabihin ng "mga sikreto ay nananatiling offline" sa gabay na ito?

3. Paano mo dapat hubarin ang pagkakakilanlan bago magbigay ng senyas?

4. Ano ang dapat iwasan sa mga usapan ng mga mamimili para sa pagiging kumpidensyal ng trabaho?

5. Aling gawi ang tumutugma sa pahintulot at payo sa pag-edit ng artikulo?


Mga artikulong maaaring gusto mong basahin pagkatapos nito:

🔗 Mga Nangungunang Kagamitan sa Seguridad ng AI
Tuklasin ang malalakas na plataporma ng seguridad ng AI na nakakakita at nakakabawas ng mga banta sa cyber.

🔗 Bakit Minsan Nag-iimbento Lang ang AI
Unawain kung bakit nagha-hallucinate ang AI at alamin kung paano bawasan ang mga panganib.

🔗 Paano I-automate ang mga Gawain gamit ang AI
Ipatupad ang ligtas na mga daloy ng trabaho sa automation sa pamamagitan ng pagdaragdag ng pangangasiwa ng tao at mahigpit na mga patakaran.

🔗 Ano ang Teknolohiya ng AI?
Tuklasin ang mga pangunahing kaalaman ng artificial intelligence at ang mga karaniwang hamon sa pagpapatupad nito.

Balik sa blog