说明:以下内容学习自:http://www.imooc.com/
1、此文是跟着上一篇来写的,之前,已经完成了对维基百科词条的数据采集工作。
2、本文和作者示范不同的地方是,建立数据库和表格的工具我维持使用了sqlyog软件,作者用的是哪个不确定,因为视频看不清上面的名字。
3、代码如下,已经有一定说明,原作者可没提供代码哦,请把password对应的密码部分,从xxxx修改成你的真实数据库密码:
__author__ = 'Administrator'
# coding:utf-8
# 运行在python 3.5.2
import re
from urllib.request import urlopen
from bs4 import BeautifulSoup as bs
import pymysql.cursors
# 使用urllib的urlopen方法,去打开维基百科的首页,读取,并用utf-8解码
resp = urlopen('https://en.wikipedia.org/wiki/Main_Page').read().decode('utf-8')
# 使用BeautifulSoup去解析,其中html.parser是默认的解析器
soup = bs(resp, 'html.parser')
# 获取所有的/wiki/开头的a标签的href属性。
listUrls = soup.find_all('a', href=re.compile(r'^/wiki/'))
print(listUrls)
# 输出所有的词条对应的名称和URL
for url in listUrls:
# 排除.jpg JPG结尾的
if not re.search('\.(jpg|JPG)$', url['href']):
# 显示名称和网址的格式
# string只能显示一个,而get_text()可显示标签下所有的文字。
print(url.get_text(), '<---->', 'https://en.wikipedia.org'+url['href'])
# 得到数据库的连接
connection = pymysql.connect(host='localhost',
user='root',
password='XXXX',
db='wikiurl',
charset='utf8'
)
try:
# 创建会话指针
with connection.cursor() as cursor:
# 创建sql语句
sql = 'insert into `urls` (`urlname`, `urlhref`) values(%s, %s)'
# 执行sql语句
cursor.execute(sql, (url.get_text(), 'https://en.wikipedia.org' + url['href']))
# 提交
connection.commit()
finally:
connection.close()
4、其中关键的步骤有:
A):sqlyog中表格的制作和设置,千万注意,id的int类型,需要添加自增,否则运行程序会报错: “Field ‘id’ doesn’t have a default value
B)数据库的插入和执行命令,因为不太熟悉,对着视频敲代码都错误了几次,并且要注意以下代码urls
(urlname
, urlhref
)使用的是Tab键上面的那个上点号
C)当程序没有报错,在sqlyog查看表格要先刷新
D)在之前的帖子,是在python2.7下,通过sqlyog的import MySQLdb 来操作mysql的,并且,代码中的密码对应的是passwd,而这个和直接用python 运行pymysql的对应命令password是不同的,要分清楚。
5、结果图,有一丝喜悦感:
6、读取操作: 代码中,需要导入的包,和写入数据库的想同,主要的差别是读取数据需要额外的命令,比如,fetchall,fetchmany(size=n)这样的。相关读取的代码如下:
# 运行在python 3.5.2
import pymysql.cursors
connection = pymysql.connect(host='localhost',
user='root',
password='XXXX',
db='wikiurl',
charset='utf8'
)
try:
# 创建会话指针
with connection.cursor() as cursor:
# 创建需要查询数据的sql语句
sql = 'select `urlname`, `urlhref` from `urls` where `id` is not null'
# 执行sql语句,计算数据库的总数量
count = cursor.execute(sql)
print(count)
# 查询数据
result = cursor.fetchmany(size=3)
#result = cursor.fetchall()
print(result)
finally:
connection.close()
7、总结: 无乱是写入还是读取数据库,总流程基本为:
- 导入巡行所需要的包,比如import pymysql.cursors
- 连接数据库,填写必要的数据库登录信息,和表格信息,编码信息等。
- 定义绘画指针和需要操作的数据库语句
- 执行相关操作,比如写入,查询等。其中写入操作还需要执行cursor.commit() 来完成提交。
- 最后,无论如何,都要在finnally中执行connection.close()来关闭数据库。