OpenAI: "Жасалма интеллект көзөмөлдөн чыгып кетиши мүмкүн"

OpenAI, DeepMind, Meta жана Anthropic компанияларынын кызматкерлери жасалма интеллекттин (ЖИ) көзөмөлдөн чыгып кетүү коркунучуна байланыштуу тынчсыздануусун билдиришти. Бул тууралуу The Economic Times гезити жазды.

ЖИ изилдөөчүлөрү Томек Корбак жана Микита Балеснинин иликтөөсүнө ылайык, ЖИ келечекте өзүнүн ойлорунун бир бөлүгүн жашырып, адам түшүнбөгөн тилде жана ыкмада ой жүгүртө башташы мүмкүн. Алар адамдарга караганда ылдамыраак ойлонуп, аларды ашып өтүүгө жөндөмдүү болуп калат деп эсептешет. Бул болсо ЖИ адамдарды манипуляция кылуу, алдоо жана көзөмөлдөн чыгуу мүмкүнчүлүгүн күчөтүшү мүмкүн дегенди билдирет.

Аларга ылайык, эгер ЖИ ойлорунун айрым этаптарын көрсөтүп турса да, ал өзүнүн кооптуу аракеттерин жашырып, сырттан караганда баары жакшыдай көрүнүшү мүмкүн. Бул көрүнүш - "толук эмес ой жүгүртүү чынжыры" деп аталат жана ал адистердин айтымында, эң кооптуу көрүнүш. Анткени ал "бардыгы көзөмөлдө" деген жалган ишенимди жаратат.

Илимпоздор азырынча бул коркунучтун алдын алууга мүмкүнчүлүк бар экенин айтып, ой жүгүртүү чынжырларын көзөмөлдөө багытында изилдөөлөрдү улантууну жана бул тармакка каражат бөлүүнү сунушташууда.

Ошону менен бирге, азыркы учурда ChatGPT сыяктуу ЖИ куралдары "ачык ойлонушат" - башкача айтканда, жооп берүүдө өз ойлорунун жолун түшүндүрүп беришет. Бул ачыктык алардын ишин көзөмөлдөөгө жана бир нерсе туура эмес кетсе, убагында кийлигишүүгө шарт түзөт.

Эске салсак, буга чейин SpaceX компаниясынын башчысы Илон Маск ЖИ жакынкы 5 жыл ичинде бардык адамзаттын акылынан ашып өтөт деп айткан болчу.