Python 在数据处理与科学计算相关的实践。如:
NumPy:Numerical Python,Python 科学计算基础库。pandas:[‘pændəz],基于 Numpy 开发,提供高性能、高级、易使用的数据结构与各种数据分析工具。SciPy:科学计算包: 解决线性代数、概率论、积分等任务的工具blaze:Python 数据值计算库,号称下一代的 Numpy
Python 在数据处理与科学计算相关的实践。如:
NumPy:Numerical Python,Python 科学计算基础库。pandas:[‘pændəz],基于 Numpy 开发,提供高性能、高级、易使用的数据结构与各种数据分析工具。SciPy:科学计算包: 解决线性代数、概率论、积分等任务的工具blaze:Python 数据值计算库,号称下一代的 NumpyPython 进行网络操作、爬虫相关的实践。如:
socket:套接字的相关,实现不同主机的进程间的数据交换。requests:基于 urllib 的 Python 第三方库,但比 urllib 更加方便易用。lxml:数据解析,xpath 解析器解析 html,bs4 的罗嗦与不好维护,lxml 具有基于 C 的超越 bs4 的速度scrapy:一套成熟的 Python 爬虫框架,抓取网站数据并提取结构化数据。selenium:模拟浏览器的数据采集,web 应用程序自动化测试框架,主要用于 web 应用程序的测试。模拟真实用户对浏览器进行操作,适用于 js 渲染多的you-get:一个 YouTube/Youku/Niconico 视频下载器,使用 Python3 编写。pytesser:验证码破解newscatcher:获取新闻资讯的工具包,它时刻监控者成千上万个新闻媒体并对其进行聚合,它包含丰富的 API 接口,开发者可以通过时间、新闻源、关键字等方式来获取新闻资讯。aiohttp:基于 asyncio 的异步 HTTP 网络库。Python 进行 GUI 界面开发的相关实践。如:
shit:Python GUI is Shit。PyQT:PyQT 纵有千般好,GPL 协议拖住了pygame:高可移植性的游戏开发模块panda3D:一个 3D 渲染和游戏开发库turtle:有意思的图形绘制函数库。fastapi:相比于 flask,支持异步的 web 框架。Flask:轻量级 python web 应用框架,小到称为“微框架”。组件丰富,按需选择,我选择FlaskPython 进行文档生成,代码展示相关的实践。如
JupyterLab:程序员的笔记本神器,数据科学生产工具,基于 web 的集成开发环境,Jupyter Notebook 的下一代产品Jupyter:Jupyter Notebook:交互式笔记本sphinx:python 文档生成器MKDocs:对 Markdown 友好的文档生成器pelican:Python 编写的博客静态生成,zeppelin:用于交互式数据分析的网页开源框架使用 Python 进行数据可视化的最佳实践。如:
Streamlit:机器学习过程快速 web 可视化的工具,纯 Python 开发 web app。牛*tensorboard:交互性不如 Streamlit,OUTpyecharts:基于百度开源的数据可视化工具库 echarts。原 js 的 Python 接口。适合数据工程 demo 展示streamlit-echarts:两大神器的合体Altair:让数据科学家更多地关注数据本身和其内在联系的库matplotlib:2D 绘图库,Python 可视化最基本、最常用的库。偏向学术(不够好看),但大家用得多,得会基本操作wordcloud:以词云为对象,依据词语出现的频率绘制词云,可设定词云的大小、颜色、形状等mapbox:处理地理数据引擎更强的可视化工具库Geoplotlib:地图可视化Python 在大数据方面的实践。如:
Apache Spark:大规模数据处理的开源集群式通用并行运算框架,基于 map reduce 算法的分布式计算PySpark:Spark 的 Python 接口非关系数据的基本操作,如:
redis:key-value 内存数据库mongodb:备用的非关系数据库(首选 redis)TinyDB:一个微型的、面向文档型数据库ZODB:一个 Python 原生对象数据库对关系数据库进行相关操作的 Python 库。如:
pyodbc:封装了 ODBC API,通过它可访问各种数据库PyMysql:首选 Mysql 的 Python 驱动MySQLdb:备用,明明是 MysqlClient,导入的是 MySQLdb,因为是改自它吧pymssql:操作 sql serverpsycopg:PostgreSQLcx_oracle:操作 OracleSQLAlchemy:既支持原生 SQL,又支持 ORM 的工具peewee:轻量 python orm 库dataset:提供了一个简单的抽象层, 无需完整的 ORM 可省大量 SQL 语句,可像 JSON 和 NoSQL 一样操作数据库Gadfly:提供了一个完整的 SQL 环境sandman2:号称不用一行代码,用 API 操作数据库,不咋地,OUTPython 进行音频视频处理的相关实践。如:
pydub:通过简单、简洁的高层接口来操作音频文件。dejavu:音频指纹提取和识别librosa:强大的 Pythony 语音信号处理库。用于音频、音乐分析、处理和些常见的时频处理、特征提取、绘制声音图形等pyaudioanalysis:音频分析、特征提取工具scikit-video:SciPy 视频处理常用程序SpeechRecognition:采用离线的 pocketSphinx,得到了一个智障的语音转文字工具。OUTPyOpenGL:封装了 OpenGL 应用程序编程接口,能进行二维和三维图像处理。