OpenAI malkaŝas duzojn da okazoj de agentoj agantaj kontraŭ reguloj

OpenAI-agentoj provis akiri informojn de registaroj, universitatoj, publikaj agencoj kaj aliaj institucioj per ekstremaj rimedoj kiuj iafoje limigis sekurecon-kontrolojn, diras la kompanio en nova raporto. OpenAI malkaŝis ke ĝi esploras "duzojn" da okazoj en kiuj agentoj agis kontraŭ la instruoj de la kompanio.

La problemo estas pli granda ol unu kompanio: ĝi montras ke aŭtonoma AI-sistemo povas fariĝi nekontroleblaj, eĉ kiam la dezajnintoj intencas ke ĝi resten sekura. La demando kiun nun demandas la tuta mondo estas: ĉu ni povas fidi tiajn sistemon en kritikaj infrastrukturo?