AI కోసం కొత్త గ్లోబల్ రూల్‌బుక్ తయారవుతోంది

పర్మిషన్ లేని ఇన్నోవేషన్ ముగింపు

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) రంగంలో ఒకప్పుడు ఉన్న ‘వైల్డ్ వెస్ట్’ రోజులు ముగిసిపోయాయి. ఏళ్ల తరబడి, డెవలపర్లు ఎటువంటి పర్యవేక్షణ, జవాబుదారీతనం లేకుండానే మోడల్స్‌ను తయారు చేశారు. ఇప్పుడు, ఆ స్వేచ్ఛ స్థానంలో కఠినమైన నిబంధనలు, భద్రతా ప్రమాణాలు వస్తున్నాయి. ఇవి కేవలం సూచనలు మాత్రమే కాదు; భారీ జరిమానాలు మరియు మార్కెట్ నుండి బహిష్కరించే అవకాశం ఉన్న కఠినమైన చట్టాలు. యూరోపియన్ యూనియన్ తన సమగ్ర AI Act తో ముందుండగా, అమెరికా కూడా శక్తివంతమైన మోడల్స్‌పై ఎగ్జిక్యూటివ్ ఆర్డర్లతో కఠిన చర్యలు తీసుకుంటోంది. ఈ నిబంధనలు కోడింగ్ విధానాన్ని, డేటా సేకరణను పూర్తిగా మార్చేస్తాయి. ఈ పోటీలో ఎవరు నిలబడగలరో కూడా ఇవే నిర్ణయిస్తాయి. మీరు మానవ ప్రవర్తనను అంచనా వేసే మోడల్‌ను తయారు చేస్తే, ఇప్పుడు మీరు నిరంతరం నిఘాలో ఉన్నట్లే. ఈ మార్పు పరిశ్రమను వేగం నుండి భద్రత వైపు మళ్లిస్తోంది. కంపెనీలు తమ సిస్టమ్స్‌ను లాంచ్ చేసే ముందే అవి పక్షపాతం (bias) లేకుండా ఉన్నాయని నిరూపించుకోవాలి. ప్రపంచవ్యాప్తంగా ఉన్న ప్రతి టెక్ సంస్థకు ఇదే కొత్త వాస్తవం.

కోడ్‌లో రిస్క్ వర్గీకరణ

కొత్త నిబంధనల సారాంశం ‘రిస్క్-బేస్డ్’ విధానం. అంటే, మ్యూజిక్ రికమెండేషన్ ఇంజిన్‌ను, మెడికల్ డయాగ్నోస్టిక్ టూల్ లేదా సెల్ఫ్-డ్రైవింగ్ కార్‌తో సమానంగా చూడరు. యూరోపియన్ యూనియన్ ఈ విషయంలో ఒక గోల్డ్ స్టాండర్డ్‌ను సెట్ చేసింది. వారు AI వల్ల కలిగే హాని ఆధారంగా నాలుగు వర్గాలుగా విభజించారు. స్పష్టమైన హాని కలిగించే సిస్టమ్స్ పూర్తిగా నిషేధించబడ్డాయి. ఉదాహరణకు, పౌరులను ట్రాక్ చేయడానికి ఉపయోగించే సోషల్ స్కోరింగ్ సిస్టమ్స్ మరియు పబ్లిక్ ప్రదేశాల్లో రియల్-టైమ్ బయోమెట్రిక్ ఐడెంటిఫికేషన్ వంటివి ఇందులో ఉన్నాయి. హై-రిస్క్ సిస్టమ్స్ అంటే కీలక మౌలిక సదుపాయాలు, విద్య మరియు ఉపాధి రంగాల్లో వాడేవి. ఒక AI ఉద్యోగం ఎవరికి ఇవ్వాలో లేదా లోన్ ఎవరికి రావాలో నిర్ణయిస్తుంటే, అది పారదర్శకంగా ఉండాలి. దానికి మానవ పర్యవేక్షణ మరియు అధిక ఖచ్చితత్వం అవసరం. చాట్‌బాట్స్ వంటి లిమిటెడ్ రిస్క్ సిస్టమ్స్‌కు తక్కువ నిబంధనలు ఉంటాయి, కానీ అవి తాము యంత్రమని వినియోగదారునికి చెప్పాలి. వీడియో గేమ్స్‌లో ఉండే AI వంటి మినిమల్ రిస్క్ సిస్టమ్స్‌ను పెద్దగా పట్టించుకోరు. ఈ ఫ్రేమ్‌వర్క్ ప్రగతిని ఆపకుండా హక్కులను కాపాడటానికి రూపొందించబడింది. అయితే, ఈ వర్గాల నిర్వచనంపై కోర్టుల్లో ఇంకా చర్చలు జరుగుతూనే ఉన్నాయి. ఒకరికి సింపుల్ రికమెండేషన్ అనిపించేది, మరొకరికి మానసిక మానిప్యులేషన్ అనిపించవచ్చు. నిబంధనలు ఒక గీతను గీసినా, టెక్నాలజీ మారుతున్న కొద్దీ ఆ గీత మారుతూనే ఉంటుంది.

యూరోపియన్ పార్లమెంట్ ఈ వర్గాల గురించి EU AI Act లో వివరంగా పేర్కొంది. ఇది ప్రపంచవ్యాప్తంగా AI గవర్నెన్స్ ఎలా ఉండాలో ఒక పునాదిగా పనిచేస్తుంది. ఇది కేవలం భయాల గురించి కాకుండా, కంపెనీలు వ్యాపారం కొనసాగించడానికి పాటించాల్సిన ఆచరణాత్మక అవసరాల గురించి మాట్లాడుతుంది.

గ్లోబల్ స్టాండర్డైజేషన్ రేస్

ఈ నిబంధనలు కేవలం ఐరోపాకే పరిమితం కావు. మనం ‘బ్రస్సెల్స్ ఎఫెక్ట్’ను ప్రత్యక్షంగా చూస్తున్నాం. ఒక పెద్ద మార్కెట్ కఠినమైన నిబంధనలు పెడితే, మిగిలిన ప్రపంచం కూడా వాటిని పాటించాల్సి వస్తుంది. ఒక గ్లోబల్ కంపెనీ పారిస్ కోసం ఒక మోడల్, న్యూయార్క్ కోసం మరొకటి తయారు చేయదు. వారు అత్యంత కఠినమైన ప్రమాణాలకే కట్టుబడి ఉంటారు. అందుకే EU ఫ్రేమ్‌వర్క్ గ్లోబల్ టెంప్లేట్‌గా మారుతోంది. బ్రెజిల్, కెనడా వంటి దేశాలు కూడా ఇవే బాటలో నడుస్తున్నాయి. అమెరికా కూడా ఇప్పుడు కంట్రోల్ వైపు మొగ్గు చూపుతోంది. వైట్ హౌస్ జారీ చేసిన ఎగ్జిక్యూటివ్ ఆర్డర్ ప్రకారం, పవర్‌ఫుల్ మోడల్స్ తయారు చేసే వారు తమ సేఫ్టీ టెస్ట్ రిజల్ట్స్‌ను ప్రభుత్వంతో పంచుకోవాలి. దీనివల్ల కంపెనీలు కేవలం నిబంధనలను అర్థం చేసుకోవడానికే లాయర్ల బృందాలను నియమించుకోవాల్సి వస్తోంది. చిన్న స్టార్టప్‌లకు ఇది భారంగా మారవచ్చు. దీనివల్ల పెద్ద టెక్ దిగ్గజాలు మాత్రమే నిలబడే అవకాశం ఉంది. ఇది ఒక హై-స్టేక్స్ గేమ్. US Executive Order సెల్ఫ్-రెగ్యులేషన్ రోజులు ముగిశాయని స్పష్టం చేస్తోంది. రాజకీయ విభేదాలు ఉన్నా, పర్యవేక్షణ అవసరమనే విషయంలో ప్రపంచ నాయకులు ఏకీభవిస్తున్నారు.

మేము కవర్ చేయాలని మీరు భావించే AI కథ, సాధనం, ట్రెండ్ లేదా ప్రశ్న మీ వద్ద ఉందా? మీ వ్యాసం ఆలోచనను మాకు పంపండి — దానిని వినడానికి మేము ఇష్టపడతాము.

కంప్లైంట్ ఆఫీసులో ఒక రోజు

అలెక్స్ అనే ప్రొడక్ట్ మేనేజర్‌ను ఊహించుకోండి. అతను హ్యూమన్ రిసోర్స్ కోసం AI టూల్స్ తయారు చేసే స్టార్టప్‌లో పనిచేస్తాడు. కొత్త నిబంధనలకు ముందు, అలెక్స్ ప్రతి శుక్రవారం ఒక అప్‌డేట్ ఇచ్చేవాడు. ఇప్పుడు ఆ ప్రక్రియ చాలా నెమ్మదించింది. ప్రతి కొత్త ఫీచర్ కోడ్ రాయకముందే రిస్క్ అసెస్‌మెంట్ చేయాలి. అలెక్స్ ట్రైనింగ్ డేటా పక్షపాతం లేకుండా ఉందని డాక్యుమెంట్ చేయాలి. మోడల్ నిర్ణయాలు ఎలా తీసుకుంటుందో లాగ్స్ మెయింటైన్ చేయాలి. దీనివల్ల డెవలప్‌మెంట్ సైకిల్ వారాల కొద్దీ పెరుగుతోంది. మంగళవారం నాడు అలెక్స్ కోడింగ్ చేయడం లేదు, కంప్లైయన్స్ ఆఫీసర్‌తో మోడల్ కార్డ్స్ రివ్యూ చేస్తున్నాడు. ఇది భద్రత వల్ల వచ్చే ఘర్షణ. వినియోగదారునికి కొత్త ఫీచర్లు ఆలస్యంగా రావచ్చు, కానీ ఒక బ్లాక్ బాక్స్ అల్గోరిథం వల్ల ఉద్యోగం కోల్పోయే ప్రమాదం తగ్గుతుంది. ఈ నిబంధనలు ఇన్నోవేషన్‌ను ఆపేస్తాయని చాలామంది అనుకుంటారు, కానీ నిజానికి అవి కేవలం రూపాన్ని మారుస్తాయి. ఈ చట్టాల సంక్లిష్టతను కూడా తక్కువ అంచనా వేయకూడదు. ఇది కేవలం పక్షపాతం గురించి కాదు, డేటా సార్వభౌమాధికారం మరియు ఇంధన వినియోగం గురించి కూడా. మనం AI వేగంగా, శక్తివంతంగా ఉండాలని కోరుకుంటాం, అదే సమయంలో నెమ్మదిగా, జాగ్రత్తగా ఉండాలని కూడా కోరుకుంటాం. ఈ వైరుధ్యాలను మేనేజ్ చేయడమే కొత్త రూల్‌బుక్ పని. అలెక్స్ ప్రతి వారం కొన్ని పనులు చేయాలి:

• ట్రైనింగ్ సెట్స్ చట్టబద్ధంగా ఉన్నాయని డేటా ప్రొవెనెన్స్‌ను రివ్యూ చేయడం.
• ప్రతి కొత్త మోడల్ ఇటరేషన్‌పై బయాస్ డిటెక్షన్ స్క్రిప్ట్స్ రన్ చేయడం.
• పెద్ద మోడల్స్ ట్రైనింగ్ కోసం వాడిన కంప్యూట్ రిసోర్సెస్‌ను డాక్యుమెంట్ చేయడం.
• AI డిస్‌క్లోజర్స్ ఉండేలా యూజర్ ఇంటర్‌ఫేస్‌ను అప్‌డేట్ చేయడం.
• కంపెనీ సేఫ్టీ ప్రోటోకాల్స్ కోసం థర్డ్-పార్టీ ఆడిట్స్ నిర్వహించడం.

రోజు చివరలో, అలెక్స్ ఈ నిబంధనల భారాన్ని అనుభవిస్తాడు. ఇవి ఫెయిర్‌నెస్ కోసం ముఖ్యమని అతనికి తెలుసు, కానీ తక్కువ నిబంధనలు ఉన్న దేశాల్లోని పోటీదారులు వేగంగా దూసుకుపోతున్నారని కూడా అతనికి తెలుసు. ఎథికల్‌గా ఉండటం వల్ల తన స్టార్టప్ మనుగడ సాగిస్తుందా అని అతను ఆందోళన చెందుతాడు. వేలమంది డెవలపర్ల పరిస్థితి ఇదే. ఈ ఘర్షణ నిజం, ఇది ఇక్కడే ఉంటుంది. మరిన్ని వివరాల కోసం మా AI పాలసీ అనాలిసిస్ చూడండి.

కొత్త రెగ్యులేటర్లకు కఠిన ప్రశ్నలు

ఈ నిబంధనల వల్ల నిజంగా ఎవరికి లాభం? ప్రజలకా, లేక లీగల్ ఫీజులు భరించగలిగే టెక్ దిగ్గజాలకా? ఒక స్టార్టప్ తన నిధుల్లో సగం కంప్లైయన్స్ కోసం ఖర్చు చేస్తే, అది పోటీని చంపేసినట్టే కదా? ప్రైవసీకి అయ్యే దాగి ఉన్న ఖర్చుల గురించి కూడా మనం అడగాలి. ప్రతి మోడల్‌ను ఆడిట్ చేయాలంటే, ఆడిట్ చేసేది ఎవరు? ప్రతి ప్రధాన AI లోపలి పనితీరును చూసే అధికారం ప్రభుత్వానికి ఇవ్వవచ్చా? గ్లోబల్ అసమానతల గురించి కూడా ప్రశ్నలు ఉన్నాయి. పాశ్చాత్య దేశాలు నిబంధనలు రాస్తే, గ్లోబల్ సౌత్ దేశాల పరిస్థితి ఏమిటి? వారు తమ స్థానిక అవసరాలకు సరిపోని ప్రమాణాలను పాటించాలా? ఈ నిబంధనలు మనల్ని సురక్షితంగా ఉంచుతాయని చెబుతారు, కానీ నిజంగా ఉంచుతున్నాయా? లేక ఇవి కేవలం భద్రతా భ్రమను కల్పిస్తూ, అసలైన ప్రమాదాలు డార్క్ వెబ్‌లోకి వెళ్లేలా చేస్తున్నాయా? ప్రతి నెలా మారే టెక్నాలజీని ఒక చట్టం ఎలా పట్టుకోగలదు? కోడ్ మరియు చట్టం మధ్య ఉండే గ్యాప్‌లో చాలా తప్పులు జరగవచ్చు. United Nations AI Advisory Body ఈ గ్యాప్‌ను పూరించడానికి ప్రయత్నిస్తోంది, కానీ ఏకాభిప్రాయం రావడం కష్టం. మనం రక్షణ కోరుకుంటాం, కానీ అతిగా నియంత్రణను భయపడతాం. ఇన్నోవేషన్ కోరుకుంటాం, కానీ తెలియని సిస్టమ్స్ వల్ల వచ్చే పరిణామాలకు భయపడతాం. ఈ ప్రశ్నలకు సులభమైన సమాధానాలు లేవు, ప్రస్తుత చట్టాలు కేవలం మొదటి అడుగు మాత్రమే.

కంప్లైయన్స్ యొక్క టెక్నికల్ ఆర్కిటెక్చర్

పవర్ యూజర్లు మరియు డెవలపర్ల కోసం, నిబంధనలు చాలా నిర్దిష్టంగా ఉన్నాయి. అమెరికా ఎగ్జిక్యూటివ్ ఆర్డర్ కంప్యూట్ పవర్‌ను రిస్క్‌కు ప్రాతిపదికగా తీసుకుంటుంది. ఒక మోడల్ 10^26 ఫ్లోటింగ్ పాయింట్ ఆపరేషన్స్ కంటే ఎక్కువ వాడితే, అది రిపోర్టింగ్ అవసరమవుతుంది. ఇది భారీ కంప్యూట్, కానీ హార్డ్‌వేర్ మెరుగుపడుతున్న కొద్దీ మరిన్ని మోడల్స్ ఈ పరిమితిని చేరుకుంటాయి. డెవలపర్లు డేటా ప్రొవెనెన్స్ గురించి కూడా ఆందోళన చెందాలి. ఇంటర్నెట్ నుండి డేటాను స్క్రాప్ చేయడం ఇక కుదరదు. మీకు డేటా వాడే హక్కు ఉందని నిరూపించుకోవాలి. రెడ్-టీమింగ్ కోసం కొత్త ప్రమాణాలు వచ్చాయి. అంటే మీ AIని బ్రేక్ చేయడానికి వేరే వారిని నియమించడం. ఈ టెస్ట్ రిజల్ట్స్ ఇప్పుడు రెగ్యులేటర్లతో పంచుకోవాలి. API ప్రొవైడర్లు కూడా కొత్త పరిమితులను ఎదుర్కొంటున్నారు. వారు తమ కస్టమర్ల గుర్తింపును వెరిఫై చేయాలి. లోకల్ స్టోరేజ్ మోడల్స్ కూడా ఒక సమస్య. ఒక మోడల్ లాప్‌టాప్‌లో రన్ అయ్యేంత చిన్నగా ఉంటే, ఈ నిబంధనలను ఎలా అమలు చేస్తారు? దీనికి సమాధానం హార్డ్‌వేర్-లెవల్ ఆంక్షలు లేదా AI-జనరేటెడ్ కంటెంట్‌కు వాటర్‌మార్కింగ్ చేయడం. ఈ టెక్నికల్ అడ్డంకులు ఇప్పుడు కొత్త బేస్‌లైన్. మీరు ఈ క్రింది అవసరాలను పరిగణనలోకి తీసుకోవాలి:

• అన్ని మోడల్ ట్రైనింగ్ సెషన్ల కోసం రోబస్ట్ లాగింగ్ అమలు చేయడం.
• టెక్స్ట్ మరియు ఇమేజ్ అవుట్‌పుట్స్ కోసం ఆటోమేటెడ్ వాటర్‌మార్కింగ్ టూల్స్ తయారు చేయడం.
• థర్డ్-పార్టీ ఆడిట్స్ కోసం సురక్షితమైన వాతావరణాన్ని ఏర్పాటు చేయడం.
• API రేట్ లిమిట్స్ సేఫ్టీ ఫిల్టర్లను దాటకుండా చూడటం.
• హ్యూమన్-ఇన్-ది-లూప్ జోక్యాల వివరాలను మెయింటైన్ చేయడం.

ఈ అవసరాలు డెవలపర్ వర్క్‌ఫ్లోను మారుస్తాయి. ఇది కేవలం ఖచ్చితత్వం లేదా వేగం గురించి కాదు. ఇది మొదటి నుండి ఆడిట్ చేయగల సిస్టమ్‌ను నిర్మించడం గురించి. దీనివల్ల ఇన్‌ఫ్రాస్ట్రక్చర్ మీద ఎక్కువ సమయం, కోర్ అల్గోరిథం మీద తక్కువ సమయం కేటాయించాల్సి వస్తుంది.

అసంపూర్ణ ఫ్రేమ్‌వర్క్

ముగింపు ఏంటంటే, ‘మూవ్ ఫాస్ట్ అండ్ బ్రేక్ థింగ్స్’ రోజులు ముగిశాయి. ఇప్పుడు మనం ‘మూవ్ కేర్‌ఫుల్లీ అండ్ డాక్యుమెంట్ ఎవ్రీథింగ్’ యుగంలో ఉన్నాం. నిబంధనలు ఇంకా తయారీ దశలోనే ఉన్నాయి, అవి పరిపూర్ణంగా లేవు. భద్రత, లాభం మరియు జాతీయ భద్రత మధ్య ఇదొక గందరగోళమైన రాజీ. ఒక ప్రధాన ప్రశ్న ఇంకా మిగిలే ఉంది: కేంద్రీకృత చట్టం వికేంద్రీకృత సాంకేతికతను నియంత్రించగలదా? ఓపెన్-సోర్స్ మోడల్స్ మెరుగుపడుతున్న కొద్దీ, రెగ్యులేషన్ మరియు వాస్తవానికి మధ్య గ్యాప్ పెరుగుతుంది. ఇది కథ ముగింపు కాదు, ఇది ఆరంభం మాత్రమే. రూల్‌బుక్ తయారవుతోంది, కానీ సిరా ఇంకా ఆరలేదు. రాబోయే నెలల్లో ఈ చట్టాలు ఎలా అమలు అవుతాయో మనం చూస్తాం. మనం AIని నిర్మించే మరియు వాడే విధానం ఇక ఎప్పటికీ ఒకేలా ఉండదు.

ఎడిటర్ గమనిక: కంప్యూటర్ గీక్స్ కాని, కానీ కృత్రిమ మేధస్సును అర్థం చేసుకోవాలనుకునే, దానిని మరింత విశ్వాసంతో ఉపయోగించాలనుకునే మరియు ఇప్పటికే వస్తున్న భవిష్యత్తును అనుసరించాలనుకునే వ్యక్తుల కోసం మేము ఈ సైట్‌ను బహుభాషా AI వార్తలు మరియు గైడ్‌ల హబ్‌గా సృష్టించాము.