算法表现为人工智能技术运作的标准化程序、公式规则等，其经由计算机在深度学习和自主训练海量数据的过程中被挖掘、提取出来。算法具备天生的复杂性，在输入数据和输出结果之间无法彰显决策过程的完全可解释性，导致被决策者、开发设计者等难以清晰地洞察算法作出决策的逻辑过程。这是算法的“黑箱”属性。在高度批量化、类型化争议关系的商事仲裁案件解决实践中，尤其强调裁判结果达成的便捷性，而不太过问当事方和裁决方的说理分析，从而积极引入人工智能决策模型。即便如此，人工智能生成的“可靠”结果并不是决策作出的“客观”规律，则人工智能决策在实现商事仲裁“程序正义”这点上是存疑的。因为，“正当程序”中“正义”应该以看得见的方式实现。在商事仲裁领域，“正当程序”要求仲裁员作出裁决的价值判断和选择等行为合法、合理。仲裁员、当事人一般需要借由“辩论”或“对话”在决策者和被决策者之间构筑起沟通桥梁，确保决策过程的透明度并为被决策者知情权、质证权、抗辩权、陈述权等行使预留空间，这是商事仲裁中的“程序正义”。然而，算法“黑箱”的存在使得商事仲裁当事人难以知晓人工智能模型生成决策的依据和逻辑、无从追踪仲裁裁决的实现细节和步骤、不能够合理预测算法行为以及己方诉请、主张、申辩等是否被算法充分考量，人工智能技术应用于商事仲裁过程的“程序正义”面临侵蚀。司法机关可以基于“违反正当程序”不予承认甚至撤销商事仲裁裁决。从这一意义上讲，算法“黑箱”引致“程序正义”困境将威胁商事仲裁裁决的执行效果。为推动人工智能系统辅助商事仲裁的裁决合法、有效，仲裁当事人正当程序权利要在人工智能应用过程中被赋予并保有行使空间。算法“黑箱”应允许在一定情势或范围内向仲裁当事人开启。

首先，研发算法技术的人工智能科技公司至少需向使用模型辅助仲裁的参与各方提供算法工具及其运作的代码、数据、原理、缺陷、风险等基础信息，营造一个相对透明的算法决策过程。算法的“可公开”将保障商事仲裁当事人知情权，进而其监督仲裁机构、仲裁员应用人工智能的行为和方式。当然，完全程度的算法公开是不现实的，算法持有主体基于知识产权或商业秘密保护而限制披露部分内容的可行性要被保障。再者，目前商事仲裁当事人较多缺乏相关程度的人工智能教育背景，尚难以直接理解、领会公开的算法内容，则公开的人工智能算法之于仲裁当事人还应是可解释的。由此，处于商事仲裁各阶段的当事人应既能够通过仲裁机构、仲裁员向算法持有公司寻求解释，又可以要求仲裁机构、仲裁员澄清其作出仲裁裁决时就人工智能算法决策的考量和认定过程。基于算法的可解释，仲裁当事人将促进自身对算法决策的识别和理解并就算法决策表达诉求、进行质询等，当事人将实现陈述、质证、抗辩等权利。最后，商事仲裁当事人就损害主张救济权利不应被妨碍。人工智能算法决策在介入商事仲裁案件过程中，若科技公司研发的算法产品本身及其运行逻辑不符合仲裁机构约定的技术应用初衷、标准或者仲裁机构、仲裁员未合理、安全、适当地使用算法决策，导致仲裁当事人正当程序权益的损害，算法的设计者、开发者、使用者等理应被追究责任。总之，算法的“可公开”“可解释”“可问责”能够作为纾解算法“黑箱”下“程序正义”困境的有效路径，并为我国补齐商事仲裁领域人工智能算法技术应用制度的缺位提供一种思路。