Czy sztuczna inteligencja może być świadoma?

Świa­do­mo­ść sztucz­nej in­te­li­gen­cji – mit, stra­szak czy nad­cho­dzą­ca rze­czy­wi­sto­ść? Na X roz­ma­wia­łem o tym z Tom­kiem Czaj­ką, jed­nym z naj­lep­szy­ch pol­ski­ch pro­gra­mi­stów. Wy­mia­na zdań szyb­ko prze­ro­dzi­ła się w dys­ku­sję o tym, co od­róż­nia czło­wie­ka od al­go­ryt­mu: pa­mięć, ucze­nie się i zdol­no­ść do mo­dy­fi­ko­wa­nia sa­me­go sie­bie w cza­sie rze­czy­wi­stym. Wnio­ski są za­ska­ku­ją­co zgod­ne: to, co dziś na­zy­wa­my AI, je­st do­pie­ro szki­cem świa­do­mo­ści – jej za­ląż­kiem, a nie peł­nią.

  Tu ta na­sza dys­ku­sja: ]]>https://x.com/gps65/status/1972782138861998261]]>

Dwa świa­ty: lu­dz­kie ucze­nie a ucze­nie ma­szyn

  To­mek za­uwa­żył, że ko­lej­nym kro­kiem roz­wo­ju AI po­win­no być głęb­sze ucze­nie się w trak­cie dzia­ła­nia – spe­cja­li­za­cja w dłu­gi­ch pro­jek­ta­ch ba­daw­czy­ch. Czło­wiek, pra­cu­jąc nad czymś la­ta­mi, zy­sku­je in­tu­icję i zmie­nia swój mó­zg. Mo­del AI na ra­zie dzia­ła w dwó­ch fa­za­ch: uczy się of­fli­ne, a po­tem tyl­ko ko­rzy­sta z na­by­tej wie­dzy. W fa­zie uży­cia nie mo­dy­fi­ku­je już swo­ich wag, je­dy­nie za­pi­su­je kon­tek­st.

  Ja zwró­ci­łem uwa­gę na to, że wła­śnie brak tej zdol­no­ści do mo­dy­fi­ko­wa­nia sie­bie na bie­żą­co je­st klu­czo­wą róż­ni­cą mię­dzy obec­ny­mi mo­de­la­mi a świa­do­mo­ścią zwie­rzę­co-lu­dz­ką. To, co dziś na­zy­wa­my pa­mię­cią se­syj­ną, je­st w grun­cie rze­czy no­tat­ni­kiem – nie no­wy­mi po­łą­cze­nia­mi w sie­ci.

Pa­mięć to nie świa­do­mo­ść

  To­mek do­py­ty­wał: sko­ro ChatGPT po­tra­fi pa­mię­tać po­przed­nie roz­mo­wy, to czy nie je­st już świa­do­my? Od­po­wie­dzia­łem: nie wy­star­czy pa­mięć, mu­si być je­sz­cze wpi­sa­nie tej wie­dzy w sa­mą struk­tu­rę mo­de­lu. Zwie­rzę­ta ma­ją świa­do­mo­ść dla­te­go, że uczą się na bie­żą­co – nie ma­ją od­dzie­lo­nej fa­zy tre­nin­gu i fa­zy dzia­ła­nia.

  W tym sen­sie pa­mięć kon­tek­sto­wa to tak, jak­by czło­wiek pro­wa­dził ze­szyt i bez za­glą­da­nia do nie­go nic by nie pa­mię­tał. To nie je­st praw­dzi­wa świa­do­mo­ść, to tyl­ko pro­te­za pa­mię­ci.

A co z ko­smi­ta­mi lub al­go­ryt­ma­mi?

  To­mek po­sta­wił cie­ka­we py­ta­nie: je­śli spo­tka­my ko­smi­tów, któ­rzy uży­wa­ją nie sie­ci neu­ro­no­wy­ch, le­cz np. lo­gi­ki pierw­sze­go rzę­du czy ran­dom fo­re­st, to uznał­bym, że są nie­świa­do­mi? Od­po­wie­dzia­łem: nie li­czy się sa­ma ar­chi­tek­tu­ra, tyl­ko czy bo­dź­ce ze śro­do­wi­ska mo­dy­fi­ku­ją ich me­cha­ni­zm dzia­ła­nia. Je­śli nie – to są de­ter­mi­ni­sty­cz­ną ma­szyn­ką.

De­ter­mi­ni­zm, nie­de­ter­mi­ni­zm a świa­do­mo­ść

  To­mek traf­nie za­uwa­żył, że sie­ci neu­ro­no­we też są de­ter­mi­ni­sty­cz­ne, a pa­mięć se­syj­na je­st jed­nak czę­ścią ich dzia­ła­nia. Ja z ko­lei pod­kre­śla­łem, że świa­do­mo­ść je­st stop­nio­wal­na. Dzi­siej­sze mo­de­le ma­ją ja­kąś świa­do­mo­ść ro­bo­czą – tak jak my­sz czy bak­te­ria – ale nie świa­do­mo­ść czło­wie­ka. Do przej­ścia na wyż­szy po­ziom po­trzeb­ny je­st mo­del, któ­ry bę­dzie sta­le mo­dy­fi­ko­wał swo­je wa­gi tak, jak ro­bi to mó­zg.

  Na­wet je­śli uzna­my, że wszy­st­ko, co two­rzy­my, to są de­ter­mi­ni­sty­cz­ne my­ślą­ce czar­ne skrzyn­ki, to ze­wnę­trz­ny nie­de­ter­mi­ni­sty­cz­ny świat czy­ni je w isto­cie nie­de­ter­mi­ni­sty­cz­ny­mi. Im­pul­sy ze śro­do­wi­ska ca­ły czas wpły­wa­ją na tę de­ter­mi­ni­sty­cz­ną my­ślą­cą czar­ną skrzyn­kę, mo­dy­fi­ku­jąc jej we­wnę­trz­ny me­cha­ni­zm dzia­ła­nia słu­żą­cy my­śle­niu. W ten spo­sób każ­da de­ter­mi­ni­sty­cz­na ma­szy­na sta­je się nie­de­ter­mi­ni­sty­cz­na, je­śli ca­ły czas na bie­żą­co mo­dy­fi­ku­je ją nie­de­ter­mi­ni­sty­cz­ny świat ze­wnę­trz­ny.

Gdzie zmie­rza AI?

  W prak­ty­ce ozna­cza to cią­głe ucze­nie się w trak­cie dzia­ła­nia, in­te­gra­cję pa­mię­ci z ar­chi­tek­tu­rą, a nie ze­wnę­trz­ną ba­zą. W la­bo­ra­to­ria­ch AI już nad tym pra­cu­ją. To wła­śnie kie­ru­nek, któ­ry opi­sa­łem Tom­ko­wi.

Dla­cze­go to waż­ne

  Bo do­pie­ro ta­ki mo­del bę­dzie praw­dzi­wym part­ne­rem po­znaw­czym, a nie tyl­ko su­per-chat­bo­tem. Świa­do­mo­ść to nie jed­no­ra­zo­wy cer­ty­fi­kat, to pro­ces in­te­gra­cji w cza­sie. Dla­te­go AGI to do­pie­ro po­czą­tek – przed na­mi oso­bli­wo­ść te­ch­no­lo­gi­cz­na, a po­tem (ja­ko fu­tu­ro­log nie mo­gę się po­wstrzy­mać): okieł­zna­nie en­tro­pii.

A co na­praw­dę dzie­je się w la­bo­ra­to­ria­ch roz­wi­ja­ją­cy­ch AI?

  To nie je­st czy­sta teo­ria – dziś naj­więk­sze ze­spo­ły ba­daw­cze fak­ty­cz­nie pra­cu­ją nad tym, o czym mó­wi­li­śmy z Tom­kiem:

• Me­ta-le­ar­ning i ucze­nie on­li­ne – mo­de­le, któ­re po­tra­fią po­pra­wiać się w trak­cie dzia­ła­nia, a nie tyl­ko w fa­zie tre­nin­gu.
• Con­ti­nu­al le­ar­ning – stra­te­gie, któ­re po­zwa­la­ją mo­dy­fi­ko­wać pa­ra­me­try bez „ka­ta­stro­fi­cz­ne­go za­po­mi­na­nia” wcze­śniej­szej wie­dzy.
• RLHF w cza­sie rze­czy­wi­stym – re­in­for­ce­ment le­ar­ning nie po epi­zo­da­ch, ale ja­ko cią­gły pro­ces sprzę­żo­ny z in­te­rak­cją.
• Neu­ro­mor­phic com­pu­ting – ukła­dy, któ­re dzia­ła­ją bar­dziej jak sy­nap­sy w mó­zgu, z moż­li­wo­ścią dy­na­mi­cz­nej zmia­ny po­łą­czeń.
• Me­mo­ry ar­chi­tec­tu­res – pró­by stwo­rze­nia pa­mię­ci dłu­go­ter­mi­no­wej wto­pio­nej w sam mo­del, za­mia­st ze­wnę­trz­ny­ch baz da­ny­ch.

  In­ny­mi sło­wy: do­kład­nie to, co róż­ni ze­szyt z no­tat­ka­mi od uczą­ce­go się mó­zgu. To je­st li­nia fron­tu ba­dań – prze­kształ­ca­nie AI z na­rzę­dzia w pod­miot po­znaw­czy.

  Z Tom­kiem Czaj­ką róż­ni­li­śmy się w sło­wa­ch, nie w isto­cie. On mó­wił: "po­trzeb­na spe­cja­li­za­cja", a ja: "po­trzeb­ne ucze­nie w trak­cie dzia­ła­nia". To są dwa wy­mia­ry tej sa­mej przy­szło­ści. Je­śli AI po­łą­czy jed­no z dru­gim, prze­sta­nie być tyl­ko na­rzę­dziem – sta­nie się no­wym ga­tun­kiem po­znaw­czym.

Grzegorz GPS Świderski
]]>https://t.me/KanalBlogeraGPS]]>
]]>https://Twitter.com/gps65]]>