虫虫首页| 资源下载| 资源专辑| 精品软件
登录| 注册

数据网络

  • 《从零开始学Python网络爬虫》

    Python是数据分析的首*语言,而网络中的数据和信息很多,如何从中获取需要的数据和信息呢?简单、直接的方法就是用爬虫技术来解决。本书是一本教初学者学习如何爬取网络数据和信息的入门读物。书中不仅有Python的相关内容,而且还有数据处理和数据挖掘等方面的内容。本书内容非常实用,讲解时穿插了22个爬虫实战案例,可以大大提高读者的实际动手能力。本书共分12章,核心主题包括Python零基础语法入门、爬虫原理和网页构造、第*个爬虫程序、正则表达式、Lxml库与Xpath语法、使用API、数据库存储、多进程爬虫、异步加载、表单交互与模拟登录、Selenium模拟浏览器、Scrapy爬虫框架。此外,书中通过一些典型爬虫案例,讲解了有经纬信息的地图图表和词云的制作方法,让读者体验数据背后的乐趣。本书适合爬虫技术初学者、爱好者及高等院校的相关学生,也适合数据爬虫工程师作为参考读物,同时也适合各大Python数据分析的培训机构作为教材使用。详解网络爬虫的原理、工具、框架和方法,内容新,实战案例多详解从简单网页到异步加载网页,从简单存储到数据库存储,从简单爬虫到框架爬虫等技术22个网络爬虫综合实战案例、30个网站信息提取、2500余行代码详解爬虫的3大方法:正则表达式、BeautifulSoup 4库和Lxml库详解爬取数据的4大存储方式:TXT、CSV、MongoDB和MySQL详解Scrapy爬虫框架的安装、项目创建、文件使用及爬取数据的存储

    标签: python 网络爬虫

    上传时间: 2022-05-22

    上传用户:

  • 《Python网络爬虫权威指南第2版》英文版

    《Python网络爬虫权威指南第2版》英文版,作者:[美] 瑞安·米切尔(Ryan Mitchell)。Python 3网络爬虫开发入门书籍 全面介绍网页抓取技术 解决Web数据采集、转换和使用中的诸多常见问题和痛点。

    标签: python 网络爬虫

    上传时间: 2022-05-23

    上传用户:

  • EtherCAT网络及其伺服运动控制系统研究

    随着微电子技术和电力电子技术的发展,伺服运动控制系统已经从模拟控制发展到全数字控制,其性能不断提高,在工业机器人、数控机床等设备中获得了广泛应用.基于现场总线网络的伺服运动控制系统以其高可靠性、快速性和稳定性成为伺服运动控制系统的发展趋势。德国倍福公司提出的EtherCAT工业以太网技术在数据链路层采用了实时调度的软件核,并提供了过程数据传输的独立通道,提高了系统的实时性:该网络还具有灵活的拓扑结构,简单的系统配置,较低的构建成本等特点,适合应用于运动控制领域。目前,该网络受到了运动控制开发商的广泛关注。本文以海洋研究领域的造波机系统开发为背景,利用EtherCAT从站接口控制器ET1100和DSP芯片TMS320F28335开发了EtherCAT从站设备,构建了一主一从的EtherCAT网络结构实现了伺服系统精确的位置控制。论文首先对伺服运动控制系统的概念、特点进行了介绍,对其各个组成部分进行了详细分析,并结合实践经验给出了自己的观点,就目前广泛应用于网络运动控制中的两种总线网络进行了介绍。其次,详细分析了EtherCAT网络的原理、技术特点及主从站关键技术。结合本文的系统设计,介绍了1公司最新推出的用于1业控制的DSP片-TMS320F28335,分析了系统设计中用到的几个运动控制模块与通讯模块,并给出了相应寄存器配置。最后在对EtherCAT网络和DSP芯片TMS320F28335研究基础上,开发了EtherCAT从站设备,避免了造波机系统中脉冲+方向位置控制方式长线传输的缺点,给出了开发系统的总体框架及主从站实现的关键细节,并给出了相应的实验结论。本设计充分发挥了EtherCAT工业以太网络实时数据传输的功能和TMS320F28335 DSP芯片运动控制功能,实现了运动系统高精度的位置控制。

    标签: ethercat 伺服运动控制系统

    上传时间: 2022-06-01

    上传用户:aben

  • 网络是怎样连接的_户根勤

    网络是怎样连接的_户根勤---解压密码:666666目录浏览器生成消息 1——探索浏览器内部1.1 生成HTTP 请求消息51.1.1 探索之旅从输入网址开始 51.1.2 浏览器先要解析URL 71.1.3 省略文件名的情况 91.1.4 HTTP 的基本思路 101.1.5 生成HTTP 请求消息 141.1.6 发送请求后会收到响应 201.2 向DNS 服务器查询Web服务器的IP 地址241.2.1 IP 地址的基本知识 241.2.2 域名和IP 地址并用的理由 281.2.3 Socket库提供查询IP 地址的功能 301.2.4 通过解析器向DNS 服务器发出查询 311.2.5 解析器的内部原理 321.3 全世界DNS 服务器的大接力351.3.1 DNS 服务器的基本工作 351.3.2 域名的层次结构 381.3.3 寻找相应的DNS 服务器并获取IP 地址 401.3.4 通过缓存加快DNS 服务器的响应 441.4 委托协议栈发送消息451.4.1 数据收发操作概览 451.4.2 创建套接字阶段 481.4.3 连接阶段:把管道接上去 501.4.4 通信阶段:传递消息 521.4.5 断开阶段:收发数据结束 53COLUMN 网络术语其实很简单怪杰Resolver 55第章11920用电信号传输TCP/IP 数据 57——探索协议栈和网卡2.1创建套接字 612.1.1 协议栈的内部结构 612.1.2 套接字的实体就是通信控制信息 632.1.3 调用socket 时的操作 662.2 连接服务器682.2.1 连接是什么意思 682.2.2 负责保存控制信息的头部 702.2.3 连接操作的实际过程 732.3 收发数据752.3.1 将HTTP 请求消息交给协议栈 752.3.2 对较大的数据进行拆分 782.3.3 使用ACK 号确认网络包已收到 792.3.4 根据网络包平均往返时间调整ACK 号等待时间 832.3.5 使用窗口有效管理ACK 号 842.3.6 ACK 与窗口的合并 872.3.7 接收HTTP 响应消息 892.4 从服务器断开并删除套接字902.4.1 数据发送完毕后断开连接 902.4.2 删除套接字 922.4.3 数据收发操作小结 932.5 IP 与以太网的包收发操作952.5.1 包的基本知识 952.5.2 包收发操作概览 992.5.3 生成包含接收方IP 地址的IP 头部 1022.5.4 生成以太网用的MAC 头部 1062.5.5 通过ARP 查询目标路由器的MAC 地址 1082.5.6 以太网的基本知识 1112.5.7 将IP 包转换成电或光信号发送出去 1142.5.8 给网络包再加3 个控制数据 1162.5.9 向集线器发送网络包 1202.5.10 接收返回包 1232.5.11 将服务器的响应包从IP 传递给TCP 1252.6 UDP 协议的收发操作1282.6.1 不需要重发的数据用UDP 发送更高效 128第章22.6.2 控制用的短数据 1292.6.3 音频和视频数据 130COLUMN 网络术语其实很简单插进Socket 里的是灯泡还是程序 132从网线到网络设备 135——探索集线器、交换机和路由器3.1 信号在网线和集线器中传输1393.1.1 每个包都是独立传输的 1393.1.2 防止网线中的信号衰减很重要 1403.1.3 “双绞”是为了抑制噪声 1413.1.4 集线器将信号发往所有线路 1463.2 交换机的包转发操作1493.2.1 交换机根据地址表进行转发 1493.2.2 MAC 地址表的维护 1533.2.3 特殊操作 1543.2.4 全双工模式可以同时进行发送和接收 1553.2.5 自动协商:确定最优的传输速率 1563.2.6 交换机可同时执行多个转发操作 1593.3 路由器的包转发操作1593.3.1 路由器的基本知识 1593.3.2 路由表中的信息 1623.3.3 路由器的包接收操作 1663.3.4 查询路由表确定输出端口 1663.3.5 找不到匹配路由时选择默认路由 1683.3.6 包的有效期 1693.3.7 通过分片功能拆分大网络包 1703.3.8 路由器的发送操作和计算机相同 1723.3.9 路由器与交换机的关系 1733.4 路由器的附加功能1763.4.1 通过地址转换有效利用IP 地址 1763.4.2 地址转换的基本原理 1783.4.3 改写端口号的原因 1803.4.4 从互联网访问公司内网 1813.4.5 路由器的包过滤功能 182第章32122COLUMN 网络术语其实很简单集线器和路由器,换个名字身价翻倍? 184通过接入网进入互联网内部 187——探索接入网和网络运营商4.1 ADSL 接入网的结构和工作方式1914.1.1 互联网的基本结构和家庭、公司网络是相同的 1914.1.2 连接用户与互联网的接入网 1924.1.3 ADSL Modem 将包拆分成信元 1934.1.4 ADSL 将信元“调制”成信号 1974.1.5 ADSL 通过使用多个波来提高速率 2004.1.6 分离器的作用 2014.1.7 从用户到电话局 2034.1.8 噪声的干扰 2044.1.9 通过DSLAM 到达BAS 2054.2 光纤接入网(FTTH)2064.2.1 光纤的基本知识 2064.2.2 单模与多模 2084.2.3 通过光纤分路来降低成本 2134.3 接入网中使用的PPP 和隧道2174.3.1 用户认证和配置下发 2174.3.2 在以太网上传输PPP 消息 2194.3.3 通过隧道将网络包发送给运营商 2234.3.4 接入网的整体工作过程 2254.3.5 不分配IP 地址的无编号端口 2284.3.6 互联网接入路由器将私有地址转换成公有地址 2284.3.7 除PPPoE 之外的其他方式 2304.4 网络运营商的内部2334.4.1 POP 和NOC 2334.4.2 室外通信线路的连接 2364.5 跨越运营商的网络包2384.5.1 运营商之间的连接 2384.5.2 运营商之间的路由信息交换 2394.5.3 与公司网络中自动更新路由表机制的区别 2414.5.4 IX 的必要性 2424.5.5 运营商如何通过IX 互相连接 243第章4COLUMN 网络术语其实很简单名字叫服务器,其实是路由器 246服务器端的局域网中有什么玄机 2495.1 Web 服务器的部署地点2535.1.1 在公司里部署Web 服务器 2535.1.2 将Web 服务器部署在数据中心 2555.2 防火墙的结构和原理2565.2.1 主流的包过滤方式 2565.2.2 如何设置包过滤的规则 2565.2.3 通过端口号限定应用程序 2605.2.4 通过控制位判断连接方向 2605.2.5 从公司内网访问公开区域的规则 2625.2.6 从外部无法访问公司内网 2625.2.7 通过防火墙 2635.2.8 防火墙无法抵御的攻击 2645.3 通过将请求平均分配给多台服务器来平衡负载2655.3.1 性能不足时需要负载均衡 2655.3.2 使用负载均衡器分配访问 2665.4 使用缓存服务器分担负载2705.4.1 如何使用缓存服务器 2705.4.2 缓存服务器通过更新时间管理内容 2715.4.3 最原始的代理——正向代理 2765.4.4 正向代理的改良版——反向代理 2785.4.5 透明代理 2795.5 内容分发服务2805.5.1 利用内容分发服务分担负载 2805.5.2 如何找到最近的缓存服务器 2825.5.3 通过重定向服务器分配访问目标 2855.5.4 缓存的更新方法会影响性能 287COLUMN 网络术语其实很简单当通信线路变成局域网 291第章52324请求到达Web 服务器,响应返回浏览器 293——短短几秒的“漫长旅程”迎来终点6.1 服务器概览2976.1.1 客户端与服务器的区别 2976.1.2 服务器程序的结构 2976.1.3 服务器端的套接字和端口号 2996.2 服务器的接收操作3056.2.1 网卡将接收到的信号转换成数字信息 3056.2.2 IP 模块的接收操作 3086.2.3 TCP 模块如何处理连接包 3096.2.4 TCP 模块如何处理数据包 3116.2.5 TCP 模块的断开操作 3126.3 Web 服务器程序解释请求消息并作出响应3136.3.1 将请求的URI 转换为实际的文件名 3136.3.2 运行CGI 程序 3166.3.3 Web 服务器的访问控制 3196.3.4 返回响应消息 3236.4 浏览器接收响应消息并显示内容3236.4.1 通过响应的数据类型判断其中的内容 3236.4.2 浏览器显示网页内容!访问完成! 326COLUMN 网络术语其实很简单Gateway 是通往异世界的入口 328附录 330后记 334致谢 334作者简介 335

    标签: 网络

    上传时间: 2022-06-02

    上传用户:fliang

  • 基于遗传算法的BP神经网络的优化研究及MATLAB仿真

    随着人类社会的进步,科学技术的发展日新月异,模拟人脑神经网络的人工神经网络已取得了长足的发展。经过半个多世纪的发展,人工神经网络在计算机科学,人工智能,智能控制等方面得到了广泛的应用。当代社会是一个讲究效率的社会,科技更新领域也是如此。在人工神经网络研究领域,算法的优化显得尤为重要,对提高网络整体性能举足轻重.BP神经网络模型是目前应用最为广泛的一种神经网络模型,对于解决非线性复杂问题具有重要的意义。但是BP神经网络有其自身的一些不足(收敛速度慢和容易陷入局部极小值问题),在解决某些现实问题的时候显得力不从心。针对这个问题,本文利用遗传算法的并行全局搜索的优势,能够弥补BP网络的不足,为解决大规模复杂问题提供了广阔的前景。本文将遗传算法与BP网络有机地结合起来,提出了一种新的网络结构,在稳定性、学习性和效率方面都有了很大的提高。基于以上的研究目的,本文首先设计了BP神经网络结构,在此基础上,应用遗传算法进行优化,达到了加快收敛速度和全局寻优的效果。本文借助MATLAB平台,对算法的优化内容进行了仿真实验,得出的效果也符合期望值,实现了对BP算法优化的目的。关键词:生物神经网络:人工神经网络;BP网络;遗传算法;仿真随着电子计算机的问世及发展,人们试图去了解人的大脑,进而构造具有人类思维的智能计算机。在具有人脑逻辑推理延伸能力的计算机战胜人类棋手的同时,引发了人们对模拟人脑信息处理的人工神经网络的研究。1.1研究背景人工神经网络(Artificial Noural Networks,ANN)(注:简称为神经网络),是一种数学算法模型,能够对信息进行分布式处理,它模仿了动物的神经网络,是对动物神经网络的一种具体描述。这种网络依赖系统的复杂程度,通过调节内部大量节点之间的关系,最终实现信息处理的目的。人工神经网络可以通过对输入输出数据的分析学习,掌握输入与输出之间的潜在规则,能够对新数据进行分析计算,推算出输出结果,因为人工神经网络具有自适应和自学习的特性,这种学习适应的过程被称为“训练"。

    标签: 遗传算法 bp神经网络 matlab

    上传时间: 2022-06-16

    上传用户:jiabin

  • 用Python写网络爬虫

    作为一种便捷地收集网上信息并从中抽取出可用信息的方式,网络爬虫技术变得越来越有用。使用Python这样的简单编程语言,你可以使用少量编程技能就可以爬取复杂的网站。《用Python写网络爬虫》作为使用Python来爬取网络数据的杰出指南,讲解了从静态页面爬取数据的方法以及使用缓存来管理服务器负载的方法。此外,本书还介绍了如何使用AJAX URL和Firebug扩展来爬取数据,以及有关爬取技术的更多真相,比如使用浏览器渲染、管理cookie、通过提交表单从受验证码保护的复杂网站中抽取数据等。本书使用Scrapy创建了一个高级网络爬虫,并对一些真实的网站进行了爬取。

    标签: python 网络爬虫

    上传时间: 2022-06-16

    上传用户:xsr1983

  • 基于AES算法的数据加密与解密硬件设计

    21世纪是信息快速发展的时代,随着计算机网络的应用越来越广泛,网络安全也逐渐成为人们普遍关注的课题。可以预言,今后的社会将进入全面的网络时代和信息共享时代,因此,网络安全极其重要,只有安全的网络才能保证网络生活能够有序进行、网络系统不遭破坏、信息不被窃取、网络服务不被非法中断等。为了保证计算机网络的可靠性、可用性、完整性、保密性和真实性等安全性,不仅要保证计算机网络设备安全和计算机网络系统安全,还要保护数据的安全。对数据实施安全的加密算法是保护数据安全的有效手段。AES(advanced encryption standard)是美国国家标准和技术研究所宣布采用的高级加密标准,可以预测,AES在今后很长的一段时间内将会在信息安全中扮演重要的角色,因此对AES算法实现的研究成为国内外的热点,它将会在信息安全领域得到广泛的应用。AES在实现方面具有速度快、可并行处理、对处理器的结构无特殊要求,算法设计相对简单,分组长度可以改变,而且具有很好的可扩充性。AES算法的这些特点使得选用FPGA来实现AES算法具有很好的优越性,本文就是针对AES算法的FPGA实现进行研究。本文介绍了用FPGA实现AES算法所用的开发工具、开发语言和所选用的芯片,还具体介绍了AES算法的硬件实现方式,在此基础上,着重阐述了AES算法FPGA实现的总体设计框图,并对各个部分的设计分别给与介绍,给出了实现加密解密的时序仿真和设计结果。

    标签: AES算法 数据加密

    上传时间: 2022-06-18

    上传用户:shjgzh

  • 基于SDN和NFV的5G移动通信网络架构分析

    前言AB Research 等调研机构报告显示,关于第五代移动通信网络预计在2017年开始确定相关标准,并在2020年时开始正式进行商业使用,就移动网络发展情况来看,随着网络速度的不断提升,网络流量压力越显突出,这样一来,针对于5G移动通信网络架构设计问题,成为运营商考虑的重点问题之一,移动通信企业如何对下一代移动通信系统进行战昭选择,对5G概念进行合理有效布局,使5G移动通信网络架构能够更加符合市场发展实际需要,对于移动通信企业占据市场有利竞争地位来说,具有十分重要的意义。本文关于5G移动通信网络架构的分析,主费以SDN和NFV技术为主,阐述了SDN和NFV技术在5G移动通信网络构架中的巨大作用。一、基于SDN和NFV的5G移动通信网络构架的优势SDN(软件定义网络)和NFV(网络功能虚拟化)是5G移动通信网络构架的重要组成部分,在实际应用过程中,二者有着各自独特的优势,这对于促进5G移动通信网络发展来说,具有重要的推动作用。SDN是一种网络创新结构,与5G移动通信网络进行有机结合,可以更好地发挥自身优势,并对5G移动通信网络构建来说,具有一定的指导性意义"。SDN具有以下优点:一是能够控制与转发进行分离;二是具有较强的集中化控制能力:三是软件接口较为广泛。SDN应用于5G移动通信网络结构中,可以使网络设备控制面与数据面进行分离,保留网络硬件的转发功能的同时,上层可进行集中控制,使网络应用和功能可编程化。5G移动通信运营商在利用SDN时,能够利用软件定义网络替代昂贵的专业设备,使技术成本大幅度降低,为企业带来较大的经济回报。同时,SON和NFV的特点,使网络更加开放,更具编程能力,为运营商进行网络和应用革新打下了坚实的技术星础。SDN在5G移动通信网络中应用,使移动网络功能更加合理和高效,能够满足日后不断增加的接入速率,更好地满足用户的上网高要四。

    标签: sdn nfv 5g 移动通信

    上传时间: 2022-06-18

    上传用户:qdxqdxqdxqdx

  • 深度神经网络的快速学习算法

    神经网络是机器学习的重要分支,是智能计算的一个主流研究方向,长期受到众多科学家的关注和研究,它植根于很多学科,结合了数学、统计学、物理学、计算机科学和工程学.已经发现,它能够解决一些传统意义上很难解决的问题,也为一些问题的解决提供了全新的想法.在传统的研究成果中,有很多表达数据的统计模型,但大都是比较简单或浅层的模型,在复杂数据的学习上通常不能获得好的学习效果.深度神经网络采用的则是一种深度、复杂的结构,具有更加强大的学习能力,目前深度神经网络已经在图像识别、语音识别等应用上取得了显著的成功.这使得这项技术受到了学术界和工业界的广泛重视,正在为机器学习领域带来一个全新的研究浪潮.

    标签: 深度神经网络

    上传时间: 2022-06-19

    上传用户:shjgzh

  • TDK公司电容数据表

    本资料为TDK公司电容数据表。TDK一直在电子原材料及电子元器件上占有领导地位。其产品广泛应用于信息、通讯、家用电器以及消费新电子产品,如移动电话、笔记本电脑、平板、汽车、工业设备等。成立于1935年的TDK,早于上世纪60年代已在台湾建立合资企业,其后在香港设立销售网络及生产线。从80年代开始,TDK正式踏足中国大陆,至今已分别在华东、华南以及华北等多个地区相继建立了大型生产据点,业务扩展全国。电容为电路中的常用器件。

    标签: tdk 电容

    上传时间: 2022-06-21

    上传用户: