火狐直播2026世界杯比赛直播 盲目上线AI智能体? 莫得这项惩处等于在埋炸弹

一些民众暗意，在莫得部署可不雅测性历程和用具的情况下就上线AI智能体的企业，无异于坐等横祸发生。

部分CIO急于推出AI智能体，却对其决议过程缺少的确的可见性，这无异于在冒险。

据AI民众称，在缺少可不雅测性历程和用具的情况下部署智能体，就像埋下了一颗定时炸弹，可能带来渊博的负面效果。

AI安全公司Guardrail Technologies的CEO T.J. Marlin指出，好多公司正在部署AI智能体，并盼望它们在险些无需东说念主工干扰的情况下提高坐褥力，他合计这是失实的作念法，相背，IT团队需要密切监控智能体，并在统共这个词智能体化历程中捏续治愈战略和实践。

"这不是像慢炖锅一样设定好就岂论了，"他说，"你不会早上把鸡放进锅里搁在厨房，晚上考究就能吃上一顿大餐。那些这样干的企业晨夕会登上面条——因为他们刚出了大事故。"

Marlin暗意，好多企业因狭隘错失时会而快速部署智能体，却并不睬解这项时间的幽微之处，他补充说，一些IT教授者似乎把智能体等同于RPA，但RPA的拆伙要细目得多。

"现时既缺东说念主才又缺学问，东说念主们在快速搭建，却不查验是否正确、是否按预期运行，"他说，"这些恰是我行状生存中见过的最严重事故的共同特征。"

智能体惩处厂商TrueFoundry近期发布的一份论述用数据印证了对缺少监管的智能体的担忧，该论述窥伺了200多位企业AI认真东说念主，发现54%的受访企业无法完整追念其智能体的算作，56%的企业莫得集中的智能体限度或惩处层。

天然TrueFoundry有推动智能体惩处发展的买卖利益，但好多其他AI民众也看到了相似的问题。

盲目惩处

Google的高档数据与AI民众Mahesh Kumar Goyal暗意，惩处和可不雅测性方面的艰难是部署高效智能体的主要阻遏，好多企业在部署智能体时以致莫得开荒集中的清单。

"大无数企业对已在坐褥环境中运行的智能体莫得任何清单——他们试图惩处我方看不见的东西。"他说。

此外，他指出，传统的SIEM(安全信息与事件守护)和EDR(端点检测与反映)安全用具是为发现东说念主类特地算作而谋略的，而非识别失控的智能体。"一个智能体相接完好运行代码一万次，看起来澈底平时，哪怕它照旧被劫捏了。"他说。

他补充说念，运行澈底自主的智能体并非理智之举。企业需要斟酌最小权限范围的用具授权、对每个领导和用具调用进行和谐的战略实行层，以及将领导、用具调用和卑劣操作串联成一条可审计轨迹的端到端跟踪。

"金融体系不是靠信任运行的，它靠的是可审计性、对账和熔断机制，"Goyal说，"智能体也会以相似的神情走向造就，分层自主才是现实的谜底：低风险任务解放运行，高效果任务必须东说念主工介入。"

英伟达AI软件副总裁Adel El Hallak补充说，部分问题在于智能体颠覆了判断传统软件是否平时运行的模子。关于传统软件，QA和安全东说念主员不错稽查代码来调试问题，但智能体是在AI模子的运行时环境中作念出决议的。

他补充说念，智能体的事实起首在于跟踪纪录——即实行历程的纪录，而非代码本人。网罗跟踪纪录——实质上等于详备日记——是迈向智能体惩处的第一步，但企业还需要大约基于这些信息接纳算作。

"要信任某样东西，它必须是透明的，而可不雅测性是透明的基础，"El Hallak补充说，"但仅靠不雅察还不够。咱们需要大约捕捉这些信号，火狐直播2026世界杯比赛直播并将其调理为可实行的算作。"

他暗意，智能体惩处杰出了可不雅测性，使企业大约捏续测试和调优智能体。关联用具照旧存在，英伟达等公司正在构建我方的里面惩处框架，还有多家厂商提供智能体可不雅测性和惩处用具。

"仅有算作数据、仅拿获反馈数据是不够的，"他说，"系统应该允许我标注、修改、增强或创建特等的反馈数据，然后我智力用这些数据来举座改良我的智能体。"

惩处瓶颈

与此同期，云存储厂商Box认真智能体责任流自动化的高档家具总监Nirmal Ganesh暗意，好多运转鞭策智能体惩处的公司发现，要是程序失当，惩处反而会成为渊博的瓶颈。

"我合计在企业部署智能体这件事上，咱们还莫得渡过最难的阶段，"他说，"大无数公司现时还作念不好这些，而的确能在智能体惩处和可不雅测性的支捏下领域化运行智能体的公司更是少之又少。"

博亚体育app中国官网入口

Ganesh看到了几个问题，包括智能体在莫得明确权限模子的情况下运行。"要是一个智能体能看到的比东说念主多，或者在内答允数据上领有杰出某东说念主的拜访权限，那就等于事故在等着发生，"他说。

然则，一些早期的智能体惩处模子无顺次模化，他暗意，一些IT团队默许接纳了东说念主类必须审批每个智能体输出的战略，因为这是最安全的礼聘。

"现实上，这不外是用更多查验点或漠视点重建了手动历程，"Ganesh说，"在高并发场景下，惩处是你领域化的瓶颈，而不再是你的安全网。"

他补充说念，企业需要开荒既可延伸又全面的可不雅测性和惩处历程。智能体的投资陈阐述天自立有劲的谨防栏、明晰的权限模子和明确的东说念主工介入机制。

"每一个造就的自动化系统皆需要捏续的可不雅测性——责任流在变、战略在变、决议在变、新用例在出现，"他说，"关于随时辰变化的事物，东说念主工介入永恒是必要的，但关于已知旅途，咱们需要更少的介入，而把重点放在特地处理和惩处调优上。"

仅不雅察输出远远不够

法律工作AI厂商SavvyLex的首创东说念主兼CAIO Marcelo Lorenzetti补充说，惩处不成只温文智能体的输出。

"最大的挑战不单是在于智能体能否给出好谜底，"他说，"而在于企业能否证理智能体拜访了什么、罢黜了什么指示、调用了什么用具、作念出了什么决议、在那里有东说念主工介入，以及它是否永恒在授权范围内运行。"

他暗意，要是缺少完整的运行时可见性，企业只可依赖截图、日记和过后评释，而这些可能无法得志法律、合规或安全条件。

他补充说念，智能体应该被捏续考证而非澈底信任，惩处应被内建到智能体架构本人，他漠视，惩处应包括基于变装的拜访、战略抵制实行、东说念主工审批阈值、起首与用具溯源、不可删改的举止纪录、置信度评分、特地处理，以及智能体波及权限规模时的明确升级旅途。

"可不雅测性不应仅限于模子是否作念出了反映，"Lorenzetti说，"它应该展示从输入到算作的完整决议旅途。"

他补充说，AI智能体照旧编削了所需的惩处阵势。

"中枢问题在于，好多公司正从回话问题的AI转向接纳算作的AI火狐直播2026世界杯比赛直播，但他们的惩处模子仍然是为被迫用具谋略的，而非为自主责任流谋略的。"他说。