MongoDB中的联合查询（$lookup）

在32 之前MongoDB不支持join，其官网上推荐的unity jdbc可以把数据取出来进行二次计算实现join运算，但收费版才有这个功能。其他免费的jdbc drive只能支持最基本的SQL语句，不支持join。

幸运的是MongoDB 32 介绍了一个新的$lookup *** 作，这个 *** 作可以提供一个类似于LEFT OUTER JOIN的 *** 作在两个或者是更多的条件下。

我们现在使用$lookup *** 作从user集合中连接数据，这个 *** 作需要一个四个参数的对象：

1、from：需要连接的集合

2、localField：在输入文档中的查找字段

3、foreignField：需要在from集合中查找的字段

4、as：输出的字段名字

orders表：

products表：

来查一下：用的Nodejs语法，都大同小异。

最后得出的结果：

对普通字段创建索引

对内嵌的文档字段创建索引

复合索引的字段顺序、字段的升降序对查询性能有影响，

也叫多值索引，

数组索引必然会使索引的条目和体积发生膨胀。为了避免时空，有必要在文档设计上做出一些限制。

MongoDB不支持一个复合索引中同时出现多个数组字段。

专门用于实现位置检索的一种特殊索引。

例如：

location字段是一个内嵌型文档，用于表明商家的地理位置，其中type表示这是地图上的一个点，coordinates则是经纬度。

接下来创建一个2dsphere索引，如下：

最后，执行查询，检索附件5千米内的商家，如下：

例如

对于制定字段已经存在重复记录的集合，尝试创建唯一性索引会报错。

对于老化数据的处理，MongoDB提供了便捷的做法，TTL索引，通过声明一个日期类型的字段，然后在日期字段上加上TTL索引：

创建TTL索引后，该数据会在3600秒后过期，MongoDB会周期性运行后台线程中对该集合进行检查及数据清理工作。

使用MongoDB的时候需要只查询指定的字段进行返回，也就是类似mysql里面的 SELECT id,name,age 这样而不是SELECT 。在MongoDB里面映射(projection)声明用来限制所有查询匹配文档的返回字段。projection以文档的形式列举结果集中要包含或者排除的字段。可以指定要包含的字段(例如:{field:1})或者指定要排除的字段(例如:{field:0})。默认_id是包含在结果集合中的，要从结果集中排除_id字段，需要在projection中指定排除_id字段({_id:0})。除了_id字段，不能在一个projection中联合使用包含和排除语意。

转自： >

在上一篇 mongodb Aggregation聚合 *** 作之$match 中详细介绍了mongodb聚合 *** 作中的$match使用以及参数细节。本篇将开始介绍Aggregation聚合 *** 作中的$sort *** 作。

说明:

 对所有输入文档进行排序，并将它们按排序顺序返回到管道。

语法:

 { $sort: { <field1>: <sort order>, <field2>: <sort order> } }

$sort接收一个文档，该文档指定要排序的字段和相应的排序顺序。<排序顺序>可以有以下值之一:

1:升序排序

－1:降序排序

{ $meta: "textScore" }:按计算的textScore元数据降序排序。

注意如果对多个字段进行排序，则从左到右计算排序顺序。例如，在上面的表单中，文档首先按<field1>排序。然后，具有相同<field1>值的文档按<field2>进一步排序。示例

对于要排序的字段或字段，将排序顺序设置为1或-1，分别指定升序或降序排序，如下例所示:该 *** 作对users集合中的文档进行排序，根据age字段降序排列，然后根据posts字段中的值升序排列。

dbusersaggregate(

   [

     { $sort : { age : -1, posts: 1 } }

   ]

)

在{<sort-key>}文档中指定计算出的元数据的新字段名，并指定$meta表达式作为它的值，如下面的示例所示:该 *** 作使用$text *** 作符匹配文档，然后首先按“textScore”元数据排序，然后按posts字段的降序排序。指定的元数据决定排序顺序。例如，“textScore”元数据按降序排序。

dbusersaggregate(

   [

     { $match: { $text: { $search: "operating" } } },

     { $sort: { score: { $meta: "textScore" }, posts: -1 } }

   ]

)

$sort + $limit内存优化

当$sort在$limit之前并且没有修改文档数量的中间阶段时，优化器可以将$limit合并到$sort中。这允许$sort *** 作在进行过程中只维护顶部的n个结果，其中n是指定的限制，并确保MongoDB只需要在内存中存储n个项目。当allowDiskUse为true且n项超过聚合内存限制时，这种优化仍然适用。优化可能会在不同版本之间发生变化。

$sort阶段的RAM有100兆字节的限制。默认情况下，如果阶段超过这个限制，$sort将产生一个错误。为了允许处理大型数据集，将allowDiskUse选项设置为true，以允许$sort *** 作写入临时文件。有关详细信息，请参阅dbcollectionaggregate()方法中的allowDiskUse选项和aggregate命令。

版本26中的变化:$sort的内存限制从RAM的10%更改为100兆字节。

如果将$sort *** 作符放置在管道的开头，或放置在$project、$unwind和$group聚合 *** 作符之前，则可以利用索引。如果$project、$unwind或$group发生在$sort *** 作之前，则$sort不能使用任何索引

MongoDB 将数据记录存储为 BSON类型的 文档（document）。 BSON 是一种二进制数据类型，是json 的一种扩展， bson 支持了更多的数据类型。 下图就是一个document（文档） 示例：

document 的数据结构如下所示：由若干个字段-值对组成，其中字段的值可以是任何 BSON 数据类型 ，包括嵌入式数据结构如 其他文档、数组和文档数组等。

如下申明了一个mydoc 的文档，

字段（field）的命名都是由字符串组成

字段名称有以下几条限制：

对于不同的字段类型的存储 *** 作，字段名称验证规则并不相同。下面总结了不同的插入和更新 *** 作如何处理以美元 ($) 为前缀的字段名称

修改非 $ 前缀的字段

修改非 $ 前缀的最外层字段,通过 literal 实现

使用管道创建一个名为spring2022的新集合，更新 $ 为前缀的 $term 字段

MongoDB 使用点符号来访问数组的元素和访问嵌入文档的字段

要通过从零开始的索引位置指定或访问数组的元素，请将数组名称与点 () 和从零开始的索引位置连接起来，并用引号引起来

示例：

要使用点表示法指定或访问嵌入文档的字段，请将嵌入文档名称与点 () 和字段名称连接起来，并用引号引起来

示例：

BSON 文档的最大大小为 16 兆字节

最大文档大小有助于确保单个文档不会使用过多的 RAM，或者在传输期间不会使用过多的带宽。为了存储大于最大大小的文档，MongoDB 提供了 GridFS API。

与 JavaScript 对象不同，BSON 文档中的字段是有序的

查询 *** 作时字段顺序:

写 *** 作时字段顺序

对于写入 *** 作，MongoDB 保留文档字段的顺序，但以下情况除外：

在 MongoDB 中，存储在集合中的每个文档都需要一个唯一的 _id 字段作为主键。如果插入的文档省略了 _id 字段，MongoDB 驱动程序会自动为 _id 字段生成一个 ObjectId。 这也适用于通过带有 upsert: true 的更新 *** 作插入的文档

_id 字段具有以下限制：

_id 字段常用值：

MongoDB是一款为web应用程序和互联网基础设施设计的数据库管理系统。没错MongoDB就是数据库，是NoSQL类型的数据库。

（1）MongoDB提出的是文档、集合的概念，使用BSON（类JSON）作为其数据模型结构，其结构是面向对象的而不是二维表，存储一个用户在MongoDB中是这样子的。

使用这样的数据模型，使得MongoDB能在生产环境中提供高读写的能力，吞吐量较于mysql等SQL数据库大大增强。

（2）易伸缩，自动故障转移。易伸缩指的是提供了分片能力，能对数据集进行分片，数据的存储压力分摊给多台服务器。自动故障转移是副本集的概念，MongoDB能检测主节点是否存活，当失活时能自动提升从节点为主节点，达到故障转移。

（3）数据模型因为是面向对象的，所以可以表示丰富的、有层级的数据结构，比如博客系统中能把“评论”直接怼到“文章“的文档中，而不必像myqsl一样创建三张表来描述这样的关系。

（1）文档数据类型

SQL类型的数据库是正规化的，可以通过主键或者外键的约束保证数据的完整性与唯一性，所以SQL类型的数据库常用于对数据完整性较高的系统。MongoDB在这一方面是不如SQL类型的数据库，且MongoDB没有固定的Schema，正因为MongoDB少了一些这样的约束条件，可以让数据的存储数据结构更灵活，存储速度更加快。

（2）即时查询能力

MongoDB保留了关系型数据库即时查询的能力，保留了索引（底层是基于B tree）的能力。这一点汲取了关系型数据库的优点，相比于同类型的NoSQL redis 并没有上述的能力。

（3）复制能力

MongoDB自身提供了副本集能将数据分布在多台机器上实现冗余，目的是可以提供自动故障转移、扩展读能力。

（4）速度与持久性

MongoDB的驱动实现一个写入语义 fire and forget ，即通过驱动调用写入时，可以立即得到返回得到成功的结果（即使是报错），这样让写入的速度更加快，当然会有一定的不安全性，完全依赖网络。

MongoDB提供了Journaling日志的概念，实际上像mysql的bin-log日志，当需要插入的时候会先往日志里面写入记录，再完成实际的数据 *** 作，这样如果出现停电，进程突然中断的情况，可以保障数据不会错误，可以通过修复功能读取Journaling日志进行修复。

（5）数据扩展

MongoDB使用分片技术对数据进行扩展，MongoDB能自动分片、自动转移分片里面的数据块，让每一个服务器里面存储的数据都是一样大小。

MongoDB核心服务器主要是通过mongod程序启动的，而且在启动时不需对MongoDB使用的内存进行配置，因为其设计哲学是内存管理最好是交给 *** 作系统，缺少内存配置是MongoDB的设计亮点，另外，还可通过mongos路由服务器使用分片功能。

MongoDB的主要客户端是可以交互的js shell 通过mongo启动，使用js shell能使用js直接与MongoDB进行交流，像使用sql语句查询mysql数据一样使用js语法查询MongoDB的数据，另外还提供了各种语言的驱动包，方便各种语言的接入。

mongodump和mongorestore,备份和恢复数据库的标准工具。输出BSON格式，迁移数据库。

mongoexport和mongoimport，用来导入导出JSON、CSV和TSV数据，数据需要支持多格式时有用。mongoimport还能用与大数据集的初始导入，但是在导入前顺便还要注意一下，为了能充分利用好mongoDB通常需要对数据模型做一些调整。

mongosniff,网络嗅探工具，用来观察发送到数据库的 *** 作。基本就是把网络上传输的BSON转换为易于人们阅读的shell语句。

因此，可以总结得到，MongoDB结合键值存储和关系数据库的最好特性。因为简单，所以数据极快，而且相对容易伸缩还提供复杂查询机制的数据库。MongoDB需要跑在64位的服务器上面，且最好单独部署，因为是数据库，所以也需要对其进行热备、冷备处理。

因为本篇文章不是API手册，所有这里对shell的使用也是基础的介绍什么功能可以用什么语句，主要是为了展示使用MongoDB shell的方便性，如果需要知道具体的MongoDB shell语法可以查阅官方文档。

创建数据库并不是必须的 *** 作，数据库与集合只有在第一次插入文档时才会被创建，与对数据的动态处理方式是一致的。简化并加速开发过程，而且有利于动态分配命名空间。如果担心数据库或集合被意外创建，可以开启严格模式。

以上的命令只是简单实例，假设如果你之前没有学习过任何数据库语法，同时开始学sql查询语法和MongoDB 查询语法，你会发现哪一个更简单呢？如果你使用的是java驱动去 *** 作MongoDB，你会发现任何的查询都像Hibernate提供出来的查询方式一样，只要构建好一个查询条件对象，便能轻松查询（接下来会给出示例），博主之前熟悉ES6，所以入手MongoDB js shell完成没问题，也正因为这样简洁，完善的查询机制，深深的爱上了MongoDB。

使用java驱动链接MongoDB是一件非常简单的事情，简单的引用，简单的做增删改查。在使用完java驱动后我才发现spring 对MongoDB 的封装还不如官方自身提供出来的东西好用，下面简单的展示一下使用。

这里只举例了简单的链接与简单的MongoDB *** 作，可见其 *** 作的容易性。使用驱动时是基于TCP套接字与MongoDB进行通信的，如果查询结果较多，恰好无法全部放进第一服务器中，将会向服务器发送一个getmore指令获取下一批查询结果。

插入数据到服务器时间，不会等待服务器的响应，驱动会假设写入是成功的，实际是使用客户端生成对象id，但是该行为可以通过配置配置，可以通过安全模式开启，安全模式可以校验服务器端插入的错误。

要清楚了解MongoDB的基本数据单元。在关系型数据库中有带列和行的数据表。而MongoDB数据的基本单元是BSON文档，在键值中有指向不定类型值的键，MongoDB拥有即时查询，但不支持联结 *** 作，简单的键值存储只能根据单个键来获取值，不支持事务，但支持多种原子更新 *** 作。

如读写比是怎样的，需要何种查询，数据是如何更新的，会不会存在什么并发问题，数据结构化的程度是要求高还是低。系统本身的需求决定mysql还是MongoDB。

在关于schema 的设计中要注意一些原则，比如：

数据库是集合的逻辑与物理分组，MongoDB没有提供创建数据库的语法，只有在插入集合时，数据库才开始建立。创建数据库后会在磁盘分配一组数据文件，所有集合、索引和数据库的其他元数据都保存在这些文件中，查阅数据库使用磁盘状态可通过。

集合是结构上或概念上相似得文档的容器，集合的名称可以包含数字、字母或 符号，但必须以字母或数字开头，完全。

限定集合名不能超过128个字符，实际上 符号在集合中很有用，能提供某种虚拟命名空间，这是一种组织上的原则，和其他集合是一视同仁的。在集合中可以使用。

其次是键值，在MongoDB里面所有的字符串都是UTF-8类型。数字类型包括double、int、long。日期类型都是UTC格式，所以在MongoDB里面看到的时间会比北京时间慢8小时。整个文档大小会限制在16m以内，因为这样可以防止创建难看的数据类型，且小文档可以提升性能，批量插入文档理想数字范围是10~200，大小不能超过16MB。

（1）索引能显著减少获取文档的所需工作量，具体的对比可以通过 explain()方法进行对比

（2）解析查询时MongoDB通过最优计划选择一个索引进行查询，当没有最适合索引时，会先不同的使用各个索引进行查询，最终选出一个最优索引做查询

（3）如果有一个a-b的复合索引，那么仅针对a的索引是冗余的

（4）复合索引里的键的顺序是很重要的

（1）单键索引

（2）复合索引

（3）唯一性索引

（4）稀疏索引

如索引的字段会出现null的值，或是大量文档都不包含被索引的键。

如果数据集很大时，构建索引将会花费很长的时间，且会影响程序性能，可通过

当使用 mongorestore 时会重新构建索引。当曾经执行过大规模的删除时，可使用

对索引进行压缩，重建。

（1）查阅慢查询日志

（2）分析慢查询

注意新版本的MongoDB 的explain方法是需要参数的，不然只显示普通的信息。

本节同样主要简单呈现MongoDB副本集搭建的简易性，与副本集的强壮性，监控容易性

提供主从复制能力，热备能力，故障转移能力

实际上MongoDB对副本集的 *** 作跟mysql主从 *** 作是差不多的，先看一下mysql的主从数据流动过程

而MongoDB主要依赖的日志文件是oplog

写 *** 作先被记录下来，添加到主节点的oplog里。与此同时，所有从结点复制oplog。首先，查看自己oplog里最后一条的时间戳；其次，查询主节点oplog里所有大于此时间戳的条目;最后，把那些条目添加到自己的oplog里并应用到自己的库里。从节点使用长轮询立即应用来自主结点oplog的新条目。

当遇到以下情况，从节点会停止复制

local数据库保存了所有副本集元素据和oplog日志

可以使用以下命令查看复制情况

每个副本集成员每秒钟ping一次其他所有成员，可以通过rsstatus()看到节点上次的心跳检测时间戳和 健康 状况。

这个点没必要过多描述，但是有一个特殊场景，如果从节点和仲裁节点都被杀了，只剩下主节点，他会把自己降级成为从节点。

如果主节点的数据还没有写到从库，那么数据不能算提交，当该主节点变成从节点时，便会触发回滚，那些没写到从库的数据将会被删除，可以通过rollback子目录中的BSON文件恢复回滚的内容。

（1）使用单节点链接

只能链接到主节点，如果链接到从节点的话，会被拒绝写入 *** 作，但是如果没有使用安全模式，因为mongo的fire and forget 特性，会把拒绝写入的异常给吃掉。

（2）使用副本集方式链接

能根据写入的情况自动进行故障转移，但是当副本集进行新的选举时，还是会出现故障，如果不使用安全模式，依旧会出现写不进去，但现实成功的情况。

分片是数据库切分的一个概念实现，这里也是简单总结为什么要使用分片以及分片的原理， *** 作。

当数据量过大，索引和工作数据集占用的内存就会越来越多，所以需要通过分片负载来解决这个问题

（1）分片组件

（2）分片的核心 *** 作

分片一个集合：分片是根据一个属性的范围进行划分的，MongoDB使用所谓的分片键让每个文档在这些范围里找到自己的位置

块：是位于一个分片中的一段连续的分片键范围，可以理解为若干个块组成分片，分片组成MongoDB的全部数据

（3）拆分与迁移

块的拆分：初始化时只有一个块，达到最大块尺寸64MB或100000个文档就会触发块的拆分。把原来的范围一分为二，这样就有了两个块，每个块都有相同数量的文档。

迁移：当分片中的数据大小不一时会产生迁移的动作，比如分片A的数据比较多，会将分片A里面的一些块转移到分片B里面去。分片集群通过在分片中移动块来实现均衡，是由名为均衡器的软件进程管理的，任务是确保数据在各个分片中保持均匀分布，当集群中拥有块最多的分片与拥有块最少分片的块差大于8时，均衡器就会发起一次均衡处理。

启动两个副本集、三个配置服务器、一个mongos进程

配置分片

（1）分片查询类型

（2）索引

分片集合只允许在_id字段和分片键上添加唯一性索引，其他地方不行，因为这需要在分片间进行通信，实施起来很复杂。

当创建分片时，会根据分片键创建一个索引。

（1）分片键是不可修改的、分片键的选择非常重要

（2）低效的分片键

（3）理想的分片键

（1）部署拓扑

根据不同的数据中心划分

这里写描述

（2）最低要求

（3）配置的注意事项

需要估计集群大小，可使用以下命令对现有集合进行分片处理

（4）备份分片集群

备份分片时需要停止均衡器

（1）部署架构

使用64位机器、32位机器会制约mongodb的内存，使其最大值为15GB

（2）cpu

mongodb 只有当索引和工作集都可放入内存时，才会遇到CPU瓶颈，CPU在mongodb使用中的作用是用来检索数据，如果看到CPU使用饱和的情况，可以通过查询慢查询日志，排查是不是查询的问题导致的，如果是可以通过添加索引来解决问题

mongodb写入数据时会使用到CPU，但是mongodb写入时间一次只用到一个核，如果有频繁的写入行为，可以通过分片来解决这个问题

（3）内存

大内存是mongodb的保障，如果工作集大小超过内存，将会导致性能下降，因为这将会增加数据加载入内存的动作

（4）硬盘

mongodb默认每60s会与磁盘强制同步一次，称为后台刷新，会产生I/O *** 作。在重启时mongodb会将磁盘里面的数据加载至内存，高速磁盘将会减少同步的时间

（5）文件系统

使用ext4 和 xfs 文件系统

禁用最后访问时间

（6）文件描述符

linux 默认文件描述符是1024，需要大额度的提升这个额度

（7）时钟

mongodb各个节点服务器之间使用ntp服务器

（1）绑定IP

启动时使用 - -bind_ip 命令

（2）身份验证

启动时使用 - -auth 命令

（3）副本集身份认证

使用keyFile，注意keyFile文件的权限必须是600，不然会启动不起来

（1）拓扑结构

搭建副本集至少需要两个节点，其中仲裁结点不需要有自己的服务器

（2）Journaling日志

写数据时会先写入日志，而此时的数据也不是直接写入硬盘，而是写入内存

但是Journaling日志会消耗内存，所以可以在主库上面关闭，在从库上面启动

可以单独为Journaling日志使用一块固态硬盘

在插入时，可以通过驱动确保Journaling插入后再反馈，但是会非常影响性能。

logpath 选项指定日志存储地址

-vvvvv 选项（v越多，输出越详细）

dbrunCommand({logrotare:1}) 开启滚动日志

（1）serverStatus

这里写描述

（2）top

（3）dbcurrentOp()

动态展示mongodb活动数据

占用当前mongodb监听端口往上1000号的端口

（1）mongodump

把数据库内容导出成BSON文件，而mongorestore能读取并还原这些文件

（2）mongorestore

把导出的BSON文件还原到数据库

（3）备份原始数据文件

可以这么做，但是， *** 作之前需要进行锁库处理 dbrunCommand({fsync:1,lock:true})

db$cmdsysunlockfindOne() 请求解锁 *** 作，但是数据库不会立刻解锁，需要使用dbcurrentOp()验证。

（1）修复

mongd --repair 修复所有数据库

dbrunCommand({repairDatabase:1}) 修复单个数据库

修复就是根据Jourling文件读取和重写所有数据文件并重建各个索引

（2）压紧

压紧，会重写数据文件，并重建集合的全部索引，需要停机或者在从库上面运行,如果需要在主库上面运行，需要添加force参数 保证加写锁。

（1）监控磁盘状态

（2）为提升性能检查索引和查询

总的来说，扫描尽可能少的文档。

保证没有冗余的索引，冗余的索引会占用磁盘空间、消耗更多的内存，在每次写入时还需做更多工作

（3）添加内存

dataSize 数据大小 和 indexSize 索引大小，如果两者的和大于内存，那么将会影响性能。

storageSize超过dataSize 数据大小 两倍以上，就会因磁盘碎片而影响性能，需要压缩。

怎么连接mongo数据库

1在这里使用的是MongoVUE进行连接，安装完成mongo客户端后，点击mongo的图标，启动运行程序

2打开面板后在界面的左上角有一个可点击的菜单connect连接按钮，这里相信不用我说读者就知道。

3点击后，显示出配置的连接数据库会话名。

4读者需要选择一个数据库的连接，然后点击下方的Connect连接

5如果读者没有配置连接需要点击下图红色方框选中的“”号，点击进行创建一个连接。

6下面就是配置数据库的连接信息，IP、端口、口令等

7连接进入后可以看到对应的数据库中所有的表，将鼠标移至需要的表格，然后鼠标右键，选择view（视图）

8打开后选择第二个视图--TableView，表格视图，就可以看到数据库表中的数据和字段名称。

以上就是关于MongoDB中的联合查询（$lookup）全部的内容，包括:MongoDB中的联合查询（$lookup）、MongoDB索引、MongoDB返回指定字段的方法等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！