其他
基于联邦学习的分布式农业组织
基于联邦学习的分布式农业组织
康孟珍1,2, 王秀娟1,3, 李冬4, 王旭伟5, 王浩宇1,6, 樊梦涵1,2, 许钰林1,2, 王飞跃1,2
1. 中国科学院自动化研究所复杂系统管理与控制国家重点实验室
2. 中国科学院大学人工智能学院
3. 中国科学院自动化研究所北京市智能化技术与系统工程技术研究中心
4. 浙江省农业科学院数字农业研究所
5. 宁波市农业技术推广总站
6. 青岛中科慧农科技有限公司
【关键词】联邦智能 ; 农业大数据 ; 决策支持 ; 区块链技术 ; 农业管理系统
【引用格式】
康孟珍, 王秀娟, 李冬, 等. 基于联邦学习的分布式农业组织[J]. 智能科学与技术学报, 2022, 4(2): 288-297.
KANG M Z, WANG X J, LI D,et al. Distributed agricultural organization based on federated learning[J]. Chinese Journal of Intelligent Science and Technology, 2022, 4(2): 288-297.
0 引言
智慧农业中的智能决策环节如同系统中的大脑，对自然环境、社会经济环境的信息进行分析处理，提供管理或控制的决策支持，是智慧农业的核心，也是数据转化为价值的过程。农业数据包括多种类别：（1）按来源分，有天（主要指卫星遥感影像数据）、空（主要指无人机遥感监测数据）、地（各类监测设备获取的地面环境和作物生长状态等数据）等；（2）按内容分，有自然物理信息（气象、土壤以及作物生长状态）和社会经济信息（市场供需和价格等）；（3）按产业链分，有生产大数据、管理大数据和市场大数据；（4）按呈现形式分，有文本、视频、照片等多种模态数据。由于复杂数据采集、挖掘、处理、分析与应用的技术原因，以及数据拥有者与使用者身份不同的原因，目前的大数据研究普遍存在“只有数据，没有利用”的问题，导致为搜集数据、存储数据付出的成本被浪费，亟须解决如何从数据中获得价值的问题。同时，智慧农业对基于数据的智能决策有着迫切需求。例如，针对生产中病虫害的诊断存在及时应答是何种病害、如何解决的问题，需要基于图像数据训练病虫害识别模型；针对设施农业中存在监而不控、缺乏一颗智能的“芯”的问题，需要利用环境和产量数据构建环境控制模型；针对农业经营中存在产销信息不对称、小规模农户产前难以抉择的问题，需要市场及种植面积等数据进行决策支持。我国农业经营体制的特点导致了现阶段农业数据难以集中管理的问题。在20世纪50年代，我国农业经营制度为集体所有、统一经营，类似集中式管理模式。改革开放后，农业经营制度向集体所有、家庭承包经营统分结合的双层经营体制转变。数据的生产者是各类农业经营主体，总体规模偏小，经营面积在3.4公顷以下的小农户占比95%以上，而耕地面积却占我国总耕地面积的80%以上。虽然多地构建了农业大数据或智慧农业平台，但难以持续地产生和挖掘大数据价值。随着 2021 年《中华人民共和国数据安全法》的出台，“数据孤岛”成为常态，在数据层面上进行共享、构建大数据平台，更成为可望而不可即的梦想。在小农、小地块的农业生产经营方式下发展适宜的智慧农业技术颇具挑战。随着算力、算法和数据量的巨大进步，人工智能迎来第三次发展高潮，开始了各行业的落地探索。然而，在大数据兴起的同时，在行业应用领域中的数据更多是“小数据”或者质量很差的数据，数据孤岛现象广泛存在。在数据孤岛、隐私保护的背景下，联邦学习（federated learning）、联邦智能应运而生，它们使得在数据不共享的情况下，能达到共享目的，因此受到广泛关注。联邦学习可以解决既相互合作又相互保护的问题，在交通、医学、疫情防控、金融数据安全等领域逐渐得到应用。联邦学习的具体做法可分解为：（1）参与方从服务器下载最新模型；（2）各自利用本地数据训练模型，将加密梯度上传给服务器，服务器聚合各个用户的梯度后更新模型参数；（3）服务器将更新后的模型传给参与方；（4）参与方各自更新模型。联邦学习由于参数服务器端只收集客户端模型而不接触客户端本地数据，因此可以更好地保护数据隐私。联邦学习可分为横向联邦学习、纵向联邦学习和联邦迁移学习，具有数据隔离、独立性等优点。联邦学习与区块链在应用领域、架构特点、隐私保护机制等方面具有很强的共性、互补性和契合度，可提升数据隐私保护强度，构建数据共享激励机制。通过结合区块链与人工智能，将目前相对中心化的人工智能算法嵌入去中心化的区块链系统，可以使得二者共融、增强，产生一种分布式人工智能研究新范式。其特点是将新一代人工智能的新算法、新机制、新策略等封装到相当于区块链的应用接口的智能合约中，形成可以动态配置的智能组件，使得区块链的分布式架构自适应特定任务需求。本文在保护数据拥有者隐私和权益的情况下，提出了一种结合联邦学习与区块链的分布式农业人工智能农业框架，旨在充分利用农业多源异构数据，发挥农业数据的价值，促进人工智能技术普惠农业。1 分布式农业组织
相较于中心化农业人工智能，分布式人工智能范式与我国小农、小地块的农业分散生产经营方式更匹配。一方面，小规模农业地理位置分散，相对于独立经营和决策，信息和知识获取不足；另一方面，我国农业信息化发展迅速，互联网和 4G 村级覆盖率达98%以上。截至2021年6月，我国网民规模达10.11亿，农村网民规模达2.97亿，农村地区互联网普及率为59.2%，初步具备构建农业社会物理信息系统（cyber-physical-social systems，CPSS）的基础设施。针对农业这一涉及自然、社会、经济的复杂系统，笔者提出构建一个与实际系统相对应的虚拟系统或人工系统，通过人工系统的推演、学习为实际系统的管理与控制提供支持，例如构建数字合作社，为合作社的规划、准备、生产和评估提供决策支持。基于区块链的分布式人工智能进一步为构建数字农业社区提供支撑。将管理策略、意向协定植入运行于区块链的智能合约，使得构建数字空间的分布式农业组织（distributed agricultural organization，DAO）成为可能，进而影响实际农业社区，优化现实世界中的管理和决策。1.1 分布式人工智能系统框架
分布式人工智能指面向设定的目标，制定管理策略，通过分布式节点的设计和节点控制，在保障数据隐私可控的前提下，提供智能化服务。分布式人工智能系统结构如图1所示。1.2 分布式农业组织的实现
分布式农业组织建立实际农业主体与分布式人工智能系统中节点的映射，设定节点的管理和控制策略，基于人工智能算法实现目标，使用智能计算的结果服务现实世界的需求。具体可分解为如下步骤。（1）服务目标：首先以需求为牵引，明确服务对象、应用场景和拟解决的问题，例如产销监测预警。深入分析相关方的定位和目标，设计管理策略，保障各方实现目标。服务对象可以是多个目标，比如同时满足农业经营主体的生产引导需求和农业主管部门的管理需求。（2）管理策略：管理策略是一系列由自然语言描述的运行规则，目的是将现实世界的服务目标转化为在信息空间可执行的方案，例如获取农产品单品生产趋势数据。策略的制定一般需综合考虑政策、法律、经济等社会因素，以及存储、计算、通信等工程因素，定义当前分布式人工智能系统的节点角色、其中的激励机制、相关事件下的节点动作、节点之间的协作方式等。（3）节点控制：节点控制实现前述管理策略，通过技术平台的开发将自然语言描述的管理策略转换为机器可执行的语言，对节点进行调控，包括节点的状态更新和选择，形成一个自主的信息空间的农业系统，并作用于实际的农业系统。通过上述过程完成从一个实际应用问题到智能系统的转换。具体实现时需要考虑更多的技术细节。（4）节点网络：分布式智能农业假设至少部分节点拥有或可产生本地的数据，例如农业经营主体节点提交当年的生产种类和规模信息。节点数据是分布式人工智能系统的物质基础，其存在形式是由一系列节点构成并进行信息交流和协作的分布式网络。节点数据包括采集的原始数据和模型参数。按节点数据区分，可分为数据的生产者、拥有者、使用者等。按实现功能区分，节点可分为数据采集层、数据存储层、数据计算层以及数据通信层等。其中，数据采集层是由多传感器网络构成的数据生产单元，每个节点独立地进行多模态数据的收集和标定。数据存储层不仅保存本地数据，还保存接收到的模型和指令等外部数据，以进行后续计算。数据计算层根据接收到的模型和协作方式，完成对本地数据的推断和分析。数据通信层负责上传节点产生的结果，同时接收最新的模型或指令。按节点形式分，节点可以是一个物联网终端（例如一个环境控制系统）或一个农户的智能手机。1.3 支撑技术
基于联邦智能的分布式农业组织需要相关的技术支撑，涉及人工智能和区块链技术。1.3.1 人工智能技术人工智能技术用于模型的预训练以及节点上的模型更新，具体如下。（1）预训练模型预训练模型先将模型在一个大型的数据集上进行训练，提取通用特征，下游任务在此基础上进行微调。预训练模型可以为下游任务提供初始化模型，使得模型在下游任务上更快收敛，同时也可以避免下游任务在小数据集上过拟合。例如，科研机构向农企等数据提供方提供预训练模型，多个数据提供方在各自数据集上进行微调并将模型参数返回平台，平台将多个模型进行聚合后将得到的新的全局模型分发给各个节点。（2）迁移学习迁移学习的目标是利用在源域解决源任务时学习到的知识，提升在目标域解决目标任务时的学习性能，主要用于解决训练数据和测试数据数据源不同、分布不同的问题，避免大量昂贵的数据标记工作，提高学习的性能。例如，不同数据提供方在预训练模型时，所使用的数据不一定满足相同的分布，平台收集不同模型学习到的知识，应用迁移学习方法，可以提升在相关域或相关任务中的学习性能。（3）网络结构搜索网络结构搜索在保护个体利益的前提下建立个体的本地最优模型，是分布式人工智能系统的重要内容。可微分的网络结构搜索（differentiable architecture search，DARTS）是常用的技术。DARTS 提出用梯度下降来解决网络架构搜索问题，将架构搜索融合到模型中一起训练，加速了网络架构搜索的过程。例如，各节点通过DARTS搜索出适合本地的最小的网络模型结构，建立本地最优模型。（4）模型蒸馏模型蒸馏是一种模型压缩方法，将教师网络的预测作为软目标（soft target）来辅助硬目标（hard target）进行学生网络的训练，以提升学生网络的精度。例如，各节点的网络可以通过模型蒸馏学习分布式人工智能系统预训练模型的知识。2018 年， Jeong E 等人不仅将模型蒸馏扩展到联邦学习框架中，还解决了各节点数据非独立同分布的问题。（5）联邦学习如何在去中心化的不同节点之间建立关系是一个核心问题。关系包括协作和对抗两类，目前使用较多的是协作方式。节点之间共享模型参数而不必是原始数据。模型的训练采用去中心化的方式，无须将分布式的终端用户数据收集到某一中心节点，而是将模型分发到终端进行模型训练，实现网络环境下的数据所有权保护。将模型提供方给出的初始模型发送至不同的数据提供方（分布式终端节点），终端用户可以利用自己的数据训练模型，并将训练过程中模型的局部更新信息回传给控制中心，由控制中心进行数据聚合后，将更新的模型广播给所有的控制节点，如此重复直到训练终止。（6）人机混合智能人工智能模型基于一定的输入和输出变量构建，可能存在某些影响结果的因素未被考虑，或者由于样本等原因，模型的预测精度不高。因此，通过设置专家节点，借助在农业领域积累的丰富的知识和经验，进行人机混合决策，可以加快模型的迭代，使之适用于目标场景。1.3.2 区块链技术区块链技术用于保障分布式平台的数据管理、数据安全和系统的可持续运行。具体如下。（1）智能合约智能合约是一组无须中介、自我验证、自动执行合约条款的协议，借助自动运行脚本实现[30]。例如，有的节点数据通过农户记录产生，可利用智能合约自动执行数据上传的激励机制，以鼓励农户上传数据。在分布式智能农业的背景下，智能合约是协议组，实现节点的访问控制、状态更新、全局模型更新等功能。（2）共识机制共识机制用于在去中心化的系统中使各节点就所有决策达成一致，例如产销形势指数的更新。通过临时的投票策略确定临时控制节点，负责对系统的状态和模型进行更新，广播新的状态和模型至其他节点，在通过多数节点验证后，对系统的更新达成共识。（3）分布式激励激励机制设计是分布式农业组织的关键，对于保持分布式农业组织的活力、形成自主运行的系统至关重要。农业系统中涉及多种利益相关者，符合实际情况的激励机制设计可实现多方共赢的局面，提升整体社会效益。例如金融服务方需要了解农业经营者的生产情况，农业经营者通过在种植过程中记录相关图片的方式，可更容易获得的金融服务方的支持，由此可设计相应的激励机制。再如，可设计发挥余热的农业专家和有技术指导需求的经营者之间的激励机制。（4）联邦数据为了保障节点隐私和数据安全，可利用联邦数据技术传输处理过的数据中间特征或结果，从而避免原始数据传输带来的数据隐私泄露。进一步可用非对称加密技术提升安全性。基于上述技术构成分布式人工智能平台，可在一个网络环境下搭建和测试。目前已有此类的开源平台供测试使用。1.4 应用方向
（1）普惠的农业智能服务人工智能算法尽管展示了超强的能力，但是对数据和算力的要求较高。以长短期记忆（long short-term memory，LSTM）算法为例，虽然在农业中已用于农业病虫害问句分类、水稻产量预测等，但需要几千甚至上万条数据才能使模型收敛。强化学习算法则对计算资源的要求较高，如一个维度为 20 的机器人控制任务需要一个普通工作站一小时的计算资源。对于只拥有少量数据或本地监测数据的用户来说，无论是数据量还是技术支撑条件都难以实现，由此带来信息鸿沟。基于联邦智能，通过站点之间的模型学习，可降低对模型预训练的要求，使得用较少的数据即可对模型进行微调和训练。例如同区域的温室环境智能控制模型可通过联邦学习方法实现不同温室的快速使用。（2）因地制宜的决策支持我国自然环境差异较大，由于水文、气象、土壤等不尽相同，不同地区乃至地块的施肥等管理方案需要区别对待。早期的农业专家系统主要基于静态知识，因此难以因地制宜地推广使用。分布式人工智能系统可以支持在已有模型基础上，通过本地的数据积累和再次训练，形成个性化的智能模型，从而做出更符合实际情况的模型。此外，还可以将经营者自身的特点（如经验、能力等）考虑到模型中。（3）促进农业信息透明地理上的分散种植导致农业生产端的信息相对不透明，容易引起价格大幅度波动、丰产不丰收等问题。农户的决策经验往往基于个人或邻近地区的决策习惯，如种植对象的选择。通过分布式农业组织，种植者可以共享知识、信息和决策结果，从而扩大视野，促进良性的农业自组织发展，减少投机行为。（4）发挥群体智能农业专家往往掌握某个领域的丰富知识和经验，然而由于活动范围有限，指导的对象有限。通过分布式人工智能系统的人机协同智能，可以拓展农业专家知识的服务范围。配合激励和评价机制，有望使原本个人掌握的知识转为可共享的知识，并使相关人员从中受益。2 应用场景一：病虫害分布式决策
以棉花病虫害分布式决策为例，阐述一个基于联邦学习的分布式农业组织的构建过程，如图2所示。（1）服务对象和目标分析服务目标是为棉花种植相关方提供基于图片的病虫害诊断和治疗决策支持。相关方包括棉农、棉花生产企业、棉花专家、地方的管理部门、相关科研机构、银行、保险公司、平台的技术团队等。对于棉农、棉花生产企业，诉求是便捷的病虫害诊断服务；对于棉花专家，诉求是通过技术服务获取报酬；对于管理部门和金融机构，诉求是提供准确的种植数据；对于科研机构，诉求是采集数据和改进模型方法。（2）管理策略分析过去的十几年中，不少涉农科研院所通过实施科研项目进行智能决策支持研究，产生预训练模型，但大多以发表科技文章为成果的形式。如果这些模型可通过部署到相关平台上开放获取，那么当棉农采集数据后，将数据上传到服务器，通过预训练模型进行图片的智能分析，棉农就可以得到返回的结果。其中，可设计相应的激励机制。采集方（棉农）可以选择分享采集的图片和分析结果，比如上传图片，这样能提高农户本地模型精度；棉花专家可对已标识的结果进行审核，其贡献也通过激励机制量化。棉花生产企业可以对提出的技术需求进行付费。管理部门、金融机构则可购买需要的信息或服务。（3）数据和服务从生产数据的角度看，数据的生产者可以是生产端的用户，也可以是第三方托管机构。这里假定为前者，即棉农和棉花生产企业，同时也是数据的拥有方。科研机构由于实施项目，设定为初始模型的提供方。管理部门和金融机构设为服务的使用方。（4）系统实施和节点控制在进行上述设计后，由第三方技术团队基于分布式平台进行开发实施，按已设计的逻辑进行运行和节点控制。目前已有不少从事智慧农业的科技公司提供产业链的某个环节或全产业链服务，例如提供基于区块链技术的溯源服务、棉花管理链数字服务等。分布式农业人工智能或将催生新的智慧农业科创公司。
3 应用场景二：产销融合智能服务
对于合作社等小规模经营主体，其痛点不在于系统功能的齐全完备、逻辑正确，而在于缺乏给自身带来经济价值的产销对接及生产中的农业技术服务。产销对接存在的信息不对称常常导致丰产不丰收的现象，降低农户的积极性。小规模经营主体一般对于应用仅解决农业信息化的智慧农业平台的积极性不高。通过构建产销两端的分布式平台（如图3所示），有望搭建产销两端的信息桥梁，并带动生产端的标准化。基于中国科学院的院地合作战略，自 2014 年起，本文部分作者开始与地方合作，进行农业信息化应用的尝试。以面向农业经营主体的服务为主旨，开发了名为惊蛰农夫（JJFarmer）的生产管理平台，包括电脑端和手机端应用。平台命名取古代根据二十四节气按时而作之意，寓意根据规划进行产前、产中、产后活动的组织。平台实现了农资管理、物联网设备管理、种植管理、人员管理等功能，可用于合作社等农业经营主体的管理，也可用于企业+农户的组织方式。JJFarmer生产管理平台系统界面如图4所示。
图4 JJFarmer生产管理平台系统界面
4 结束语
本文提出了一个面向农业的分布式人工智能技术应用的框架。不同于大多数人工智能应用着力于提升生产力、节本增效，本文提出的基于联邦学习的分布式农业组织还着力于生产关系数字空间的重构，并将其作用于现实世界。在大数据时代，数据驱动的公共管理学科现代化已成为实现我国国家治理体系和治理能力现代化的重要保障，其作用在我国防疫能力上已经得到证明。如何进一步深度利用数据服务农业这一传统领域，更需要切实可用的方法。分布式人工智能有助于实现数据的合理共享及使用，切实推进农业领域中的大数据运用。目前，一些地区已提出农业产业大脑的概念，例如浙江省农业农村厅印发了“农业产业大脑”建设指南，任务是以大数据、云计算、区块链等技术赋能农业生产、加工、储运、销售等环节，贯通产业链、供应链、资金链、创新链，融合主体侧和政府侧、链接生产端和消费端。在建设过程中，必然针对数据孤岛，解决数据使用者和数据所有者的需求矛盾。分布式农业组织为数字经济系统向农业的延伸提供了一个解决方案，助力从数据到价值的转换。联邦学习涉及科研机构成果的转移和转化。过去的十几年间，随着智慧农业相关项目的立项，产生了大量的农业预训练模型，以科研论文发表、成果提交入库的方式存在，或进入小范围的应用。DAO 可进一步发挥这些模型的价值，通过联邦学习进一步提升模型的性能，并进行实际应用。例如，灌溉施肥智能决策支持是大田种植智能管理中的重要环节。基于作物内部的物质流监测可以得到外部环境与植物蒸腾和光合的定量关系，但这类模型需要借助专业的仪器，需要科研机构完成。因此，通过预训练模型分发，结合简便易测的数据进行本地训练，有助于这类模型的推广应用，将成果普及化，便于农业领域的相关人员使用发展迅速的人工智能领域的先进成果，减少隐含的数字鸿沟。分布式农业组织可通过共同的规则制定产业链之间的协作关系。相关的产业联盟可以发挥组织的作用，通过制定管理策略，连接相关用户。基于此可产生新的农业技术推广模式。农村通过所有权、承包权、经营权的“三权分置”放活了土地的经营权。分布式的智能农业则使得农业数据的使用权和所有权分置，可以释放数据中隐藏的价值。生产端用户往往同时是数据的生产者，如果合理设置机制，不仅可以获得农产品的收益，还有望获得数据产生的红利。与亚洲的其他国家相似，我国农业具有小规模生产的特点，一方面面临着与世界主要农产品出口国的直接竞争，另一方面承担着保障国家粮食安全、农户生计安全的两重重任。通过分布式农业组织提升经营效益，量化数据的贡献，按需生产并提高生产效率，共享大数据红利，有助于小规模农业的可持续发展。作者简介
王秀娟（1982−），女，中国科学院自动化研究所复杂系统管理与控制国家重点实验室助理研究员，主要研究方向为平行农业和植物建模 。
李冬（1980−），男，浙江省农业科学院数字农业研究所副研究员，主要研究方向为数字农业和美丽田园建设 。
王旭伟（1975−），男，宁波市农业技术推广总站高级农艺师，宁波市农艺学会秘书长，主要研究方向为作物栽培和数字农业 。
王浩宇（1984−），男，中国科学院自动化研究所复杂系统管理与控制国家重点实验室助理研究员，主要研究方向为植物生长建模、智慧农业、编程语言及信息系统 。
樊梦涵（1997−），女，中国科学院自动化研究所复杂系统管理与控制国家重点实验室硕士生，主要研究方向为计算智能 。
许钰林（1998−），女，中国科学院自动化研究所复杂系统管理与控制国家重点实验室硕士生，主要研究方向为计算智能 。
王飞跃（1961−），男，中国科学院自动化研究所复杂系统管理与控制国家重点实验室研究员，国防科技大学军事计算实验与平行系统技术研究中心教授，中国科学院大学中国经济与社会安全研究中心主任，主要研究方向为智能系统和复杂系统建模、分析与控制 。
· 关于《智能科学与技术学报》·
《智能科学与技术学报》（季刊，www.cjist.com.cn）是由中华人民共和国工业和信息化部主管，人民邮电出版社主办，中国自动化学会学术指导，北京信通传媒有限责任公司出版的高端专业期刊，面向国内外公开发行。《智能科学与技术学报》以建设世界一流科技期刊为目标，聚焦智能科学与技术领域，秉承“专家办刊”的重要原则，坚持“推进跨界融合，注重协同创新，强化产学研用，搭建开放、创新并具国际化示范引领效应的智能科学与技术研究学术交流平台，进而助力构建智能科学与技术及其产业应用的健康生态场”的办刊宗旨，主要包括“综述”“学术论文”“专题”“评述”等栏目，将主要刊载面向智能科学与技术领域有突破的基础理论研究、创新性关键技术应用、热点问题探讨、重大成果进展等，刊载重点领域包括：人工智能，智能控制，混合智能，平行智能，生物智能，军事智能的前沿理论与方法、技术与趋势、应用系统。
《智能科学与技术学报》被Scopus、EBSCO数据库，乌利希国际期刊指南收录。《智能科学与技术学报》将努力发展成国内外智能科学与技术领域顶级的学术交流平台，为业界提供一批内容新、质量优、信息含量大、应用价值高的优秀文章，为实现《新一代人工智能发展规划》提出的我国人工智能发展的战略目标，促进我国智能科学与技术的快速发展贡献力量。