# -*- coding: utf-8 -*-
"""
数据文件关联处理程序
功能:解压压缩文件,读取 Word 文档,将文件与 Word 内容关联
"""
import os
import sys
import zipfile
import json
import argparse
from pathlib import Path
from typing import Optional, List, Dict, Tuple, Union
from datetime import datetime
import time
import re
import shutil
def clear_directory(dir_path: Path) -> None:
"""清空目录中的所有文件和子目录"""
if dir_path.exists():
for item in dir_path.iterdir():
if item.is_file():
item.unlink()
elif item.is_dir():
shutil.rmtree(item)
def extract_all_zips(
source_dir: Union[str, Path] = "cc",
output_dir: Union[str, Path] = "data",
delete_original: bool = True
) -> List[Path]:
"""
解压指定目录中的所有 zip 文件
Args:
source_dir: 包含压缩文件的目录
output_dir: 输出目录
delete_original: 解压后删除原文件
Returns:
所有解压后的目录路径列表
"""
source_dir = Path(source_dir)
output_dir = Path(output_dir)
# 清空 output_dir
clear_directory(output_dir)
zip_files = list(source_dir.glob("*.zip"))
if not zip_files:
print(f"在 {source_dir} 中未发现 zip 文件")
return []
print(f"找到 {len(zip_files)} 个压缩文件,开始解压到 {output_dir}...")
results = []
for zip_file in zip_files:
# 解压到指定目录
extract_dir = output_dir / zip_file.stem
extract_dir.mkdir(parents=True, exist_ok=True)
with zipfile.ZipFile(zip_file, 'r') as zip_ref:
# 解压所有文件并保留原始时间戳
for member in zip_ref.infolist():
# 解压文件
zip_ref.extract(member, extract_dir)
# 获取解压后的文件路径
member_path = extract_dir / member.filename
# 如果文件存在,设置时间戳
if member_path.exists():
# 将 ZipInfo 的日期时间转换为时间戳
date_time = datetime(*member.date_time[:5])
timestamp = date_time.timestamp()
# 设置访问时间和修改时间
os.utime(member_path, (timestamp, timestamp))
# 检查是否多了一层目录(zip 内部只有一个同名文件夹)
inner_dir = extract_dir / zip_file.stem
if inner_dir.is_dir() and len(list(extract_dir.iterdir())) == 1:
# 移动内部文件夹所有内容到外层
for item in inner_dir.iterdir():
item.rename(extract_dir / item.name)
# 删除空的内层文件夹
inner_dir.rmdir()
print(f"✓ 已解压:{zip_file.name} (移除了多余目录层)")
else:
print(f"✓ 已解压:{zip_file.name}")
results.append(extract_dir)
# 删除原压缩包
if delete_original:
zip_file.unlink()
return results
def read_word_content(doc_path: Path) -> List[str]:
"""读取 Word 文档内容 (.docx 或 .doc),提取文本行"""
if doc_path.suffix.lower() == '.docx':
return read_docx_content(doc_path)
elif doc_path.suffix.lower() == '.doc':
return read_doc_content(doc_path)
return []
def read_docx_content(doc_path: Path) -> List[str]:
"""读取 .docx 格式 Word 文档内容"""
try:
with zipfile.ZipFile(doc_path, 'r') as z:
content = z.read('word/document.xml').decode('utf-8')
# 提取所有 ... 中的内容,保留原始空白字符
texts = re.findall(r']*>(.*?)', content, re.DOTALL)
# 去除 HTML 标签,不替换内部的空白字符
processed = []
for text in texts:
text = re.sub(r'<[^>]+>', '', text).strip()
if text:
processed.append(text)
# 拼接所有文本,保留 \t 和 \n
full_text = '\n'.join(processed)
# 智能检测:判断是使用 \t 分割 6 段,还是每行一个字段
lines = full_text.split('\n')
lines = [line.strip() for line in lines if line.strip()]
# 检测是否每行都是单字段(没有\t)
# 如果前几行都没有\t,可能是每行一个字段
has_tab_in_first_rows = any('\t' in line for line in lines[:6])
if not has_tab_in_first_rows and len(lines) >= 6:
# 判断是否是 6 行一组的模式:第二行是网址且第三行是日期/时间
def is_url_line(line: str) -> bool:
"""判断一行是否是网址"""
return bool(re.match(r'^https?://', line.strip()))
def is_datetime_line(line: str) -> bool:
"""判断一行是否是日期或时间"""
datetime_pattern = r'^\d{4}[-/]\d{1,2}[-/]\d{1,2}\s+\d{1,2}:\d{2}'
date_pattern = r'^\d{4}[-/]\d{1,2}[-/]\d{1,2}'
return bool(re.match(datetime_pattern, line.strip())) or \
bool(re.match(date_pattern, line.strip()))
# 检查当前起始位置是否是 6 行一组模式
def is_six_row_group(lines: list, start_idx: int) -> bool:
"""检查从 start_idx 开始是否是 6 行一组"""
if start_idx + 1 < len(lines):
return is_url_line(lines[start_idx + 1]) and \
is_datetime_line(lines[start_idx + 2])
return False
# 按组处理,每组独立判断 offset
# 规则:如果第二行是网址且第三行是日期/时间,则当前 6 行为一组;否则丢弃第一行,继续判断
result = []
i = 0
while i + 5 <= len(lines):
# 检查当前位置开始是否是 6 行一组模式
if is_six_row_group(lines, i):
# 是 6 行一组,合并这 6 行
combined = '\t'.join(lines[i:i+6])
result.append(combined)
i += 6
else:
# 不是 6 行一组,丢弃当前行(相当于 offset+1)
i += 1
# 处理剩余行(不足 6 行的)
while i < len(lines):
result.append(lines[i])
i += 1
return result
else:
# 每行已经有\t分割,直接返回
return lines
except Exception as e:
print(f"读取 .docx 失败 ({doc_path.name}): {e}")
return []
def read_doc_content(doc_path: Path) -> List[str]:
"""读取 .doc 格式 Word 文档内容(使用 LibreOffice)"""
import subprocess
import tempfile
soffice_paths = [
'/Applications/LibreOffice.app/Contents/MacOS/soffice',
'/Applications/LibreOffice.app/Contents/MacOS/libreoffice',
'soffice',
]
print(f"🔍 正在查找 LibreOffice...")
soffice_cmd = None
for path in soffice_paths:
print(f" 检查:{path}")
try:
import os
if os.path.isfile(path):
print(f" ✓ 文件存在")
result = subprocess.run([path, '--version'], capture_output=True, timeout=10)
print(f" ✓ 版本检查返回码:{result.returncode}")
print(f" 输出:{result.stdout.decode()[:100]}")
if result.returncode == 0:
soffice_cmd = path
print(f"✓ 使用 LibreOffice: {path}")
break
except Exception as e:
print(f" ✗ 错误:{e}")
continue
if not soffice_cmd:
print("❌ LibreOffice 未安装或无法访问")
return []
print(f"📄 开始转换文件:{doc_path}")
try:
with tempfile.TemporaryDirectory() as tmpdir:
print(f"📁 临时目录:{tmpdir}")
result = subprocess.run(
[soffice_cmd, '--headless', '--convert-to', 'txt', '--outdir', tmpdir, str(doc_path)],
capture_output=True,
timeout=60
)
print(f"🔄 转换返回码:{result.returncode}")
if result.returncode != 0:
print(f"✗ 转换失败:{result.stderr.decode()[:300]}")
return []
txt_file = Path(tmpdir) / (doc_path.stem + '.txt')
if txt_file.exists():
with open(txt_file, 'r', encoding='utf-8', errors='ignore') as f:
lines = [line.strip() for line in f.readlines() if line.strip()]
print(f"✓ 成功读取 {len(lines)} 行内容")
return lines
else:
print(f"✗ 转换后的文本文件不存在")
except Exception as e:
print(f"✗ LibreOffice 读取失败:{e}")
print(f"⚠️ 无法读取 .doc 文件 ({doc_path.name})")
return []
try:
import tempfile
with tempfile.TemporaryDirectory() as tmpdir:
result = subprocess.run(
[soffice_cmd, '--headless', '--convert-to', 'txt', '--outdir', tmpdir, str(doc_path)],
capture_output=True,
text=True,
timeout=60
)
if result.returncode != 0:
print(f"LibreOffice 转换失败:{result.stderr}")
return None
txt_file = Path(tmpdir) / (doc_path.stem + '.txt')
if txt_file.exists():
with open(txt_file, 'r', encoding='utf-8', errors='ignore') as f:
lines = [line.strip() for line in f.readlines() if line.strip()]
return lines
except Exception as e:
print(f"LibreOffice 读取失败:{e}")
print(f"⚠️ 无法读取 .doc 文件 ({doc_path.name})")
return []
def find_word_doc_recursive(base_dir: Path) -> Optional[Path]:
"""递归查找 base_dir 下符合目标的 Word 文档
目标目录条件:包含一个 Word 文件 (.docx 或 .doc) 以及两个子目录
如果当前目录只有一个子目录且无 Word 文件,则继续深入查找
"""
def find_target_dir(current_dir: Path) -> Optional[Path]:
items = list(current_dir.iterdir())
subdirs = [item for item in items if item.is_dir()]
word_files = [item for item in items if item.suffix.lower() in ('.docx', '.doc')]
# 目标条件:恰好一个 Word 文件且至少两个子目录
if len(word_files) == 1 and len(subdirs) >= 2:
return word_files[0]
# 只有一个子目录且没有 Word 文件,继续深入
if len(subdirs) == 1 and len(word_files) == 0:
return find_target_dir(subdirs[0])
return None
return find_target_dir(base_dir)
def get_files_with_times(folder: Path) -> List[Tuple[Path, datetime]]:
"""获取文件夹中所有文件及其创建时间"""
files = []
for f in folder.iterdir():
if f.is_file():
stat_info = f.stat()
# macOS 使用 st_birthtime 作为创建时间,其他系统使用 st_ctime
try:
ctime = datetime.fromtimestamp(stat_info.st_birthtime)
except AttributeError:
ctime = datetime.fromtimestamp(stat_info.st_ctime)
files.append((f, ctime))
files.sort(key=lambda x: x[1])
return files
def extract_zip_recursive(zip_path: Path, extract_dir: Path, clear_dir: bool = True) -> List[Path]:
"""递归解压 zip 文件,如果解压后的文件还有 zip,继续解压"""
# 先清空 extract_dir 中的内容
if clear_dir:
for item in extract_dir.iterdir():
if item.is_file():
item.unlink()
elif item.is_dir():
shutil.rmtree(item)
# 解压当前层
with zipfile.ZipFile(zip_path, 'r') as zip_ref:
zip_ref.extractall(extract_dir)
# 查找解压后的所有 zip 文件,递归解压
new_zips = list(extract_dir.glob("*.zip"))
while new_zips:
for z in new_zips:
with zipfile.ZipFile(z, 'r') as zip_ref:
zip_ref.extractall(extract_dir)
z.unlink() # 删除已解压的 zip 文件
new_zips = list(extract_dir.glob("*.zip"))
# 递归收集所有解压后的文件(包括子目录)
def collect_all_files(dir_path: Path) -> List[Path]:
files = []
for item in dir_path.iterdir():
if item.is_file():
files.append(item)
elif item.is_dir():
files.extend(collect_all_files(item))
return files
extracted_files = collect_all_files(extract_dir)
return extracted_files
def build_file_associations(
word_content: List[str],
twole_folder: Path,
zxxk_folder: Path,
) -> Dict:
"""构建文件关联关系"""
result = []
twole_files = get_files_with_times(twole_folder)
zxxk_files = get_files_with_times(zxxk_folder)
for i, content in enumerate(word_content):
# 按 \t 分割成段
parts = content.split('\t')
if len(parts) < 6:
continue
# 提取两组数据:标题、网址、时间
title1, url1, time1 = parts[0].strip(), parts[1].strip(), parts[2].strip()
title2, url2, time2 = parts[3].strip(), parts[4].strip(), parts[5].strip()
# 辅助函数:处理文件路径,如果是 zip 则递归解压
def process_file(file_path: Path) -> List[str]:
filenames = [file_path.name]
# 检查是否是压缩文件
if file_path.suffix.lower() in ('.zip', '.rar', '.7z'):
tmp_dir = Path(__file__).parent / "tmp"
tmp_dir.mkdir(exist_ok=True)
extract_target = tmp_dir / file_path.stem
# 清空 extract_target 目录
clear_directory(extract_target)
extract_target.mkdir(parents=True, exist_ok=True)
# 根据压缩格式选择解压方式
if file_path.suffix.lower() == '.zip':
extracted = extract_zip_recursive(file_path, extract_target)
else:
# 其他压缩格式使用 subprocess
import subprocess
subprocess.run(['unzip', '-o', str(file_path), '-d', str(extract_target)],
capture_output=True)
extracted = list(extract_target.iterdir())
# 将解压后的文件名添加到列表
filenames.extend([f.name for f in extracted])
return filenames
return filenames
# 第一组:根据网址匹配文件
if 'www.21cnjy.com' in url1 and twole_files:
file_path, ctime = twole_files.pop(0)
result.append({
"filename": process_file(file_path),
"title": title1,
"url": url1,
"time": time1
})
elif 'www.zxxk.com' in url1 and zxxk_files:
file_path, ctime = zxxk_files.pop(0)
result.append({
"filename": process_file(file_path),
"title": title1,
"url": url1,
"time": time1
})
# 第二组:根据网址匹配文件
if 'www.21cnjy.com' in url2 and twole_files:
file_path, ctime = twole_files.pop(0)
result.append({
"filename": process_file(file_path),
"title": title2,
"url": url2,
"time": time2
})
elif 'www.zxxk.com' in url2 and zxxk_files:
file_path, ctime = zxxk_files.pop(0)
result.append({
"filename": process_file(file_path),
"title": title2,
"url": url2,
"time": time2
})
return {"items": result}
def main():
parser = argparse.ArgumentParser(description='数据文件关联处理程序')
parser.add_argument('--extract', action='store_true', help='解压压缩文件')
parser.add_argument('--associate', action='store_true', help='建立文件关联')
parser.add_argument('--batch', action='store_true', help='批量处理所有 zip 文件')
parser.add_argument('--base-dir', type=str, help='基础目录')
parser.add_argument('--delete-original', action='store_true', help='解压后删除原文件')
args = parser.parse_args()
# 解压压缩文件
if args.extract:
source_dir = Path(args.base_dir) if args.base_dir else Path("cc")
extract_all_zips(source_dir, "data", delete_original=args.delete_original)
return
# 批量处理所有文件夹(已从 cc 目录解压好)
if True or args.batch:
source_dir = Path(args.base_dir) if args.base_dir else Path("cc")
data_dir = Path("data")
server_jsons_dir = Path("server") / "jsons"
server_jsons_dir.mkdir(parents=True, exist_ok=True)
# 获取 cc 目录下的所有子文件夹(已解压好的文件夹)
folders = [f for f in source_dir.iterdir() if f.is_dir()]
if not folders:
print(f"在 {source_dir} 中未发现文件夹")
return
print(f"找到 {len(folders)} 个文件夹,开始批量处理...")
success_count = 0
fail_count = 0
for folder in folders:
print(f"\n【开始处理】{folder.name}")
# 清空 data 目录
clear_directory(data_dir)
try:
# 移动文件夹到 data 目录
extract_dir = data_dir / folder.name
shutil.move(str(folder), str(extract_dir))
# 查找 Word 文档
word_doc = find_word_doc_recursive(extract_dir)
if not word_doc:
print(f"⚠️ 在 {folder.name} 中未找到 Word 文档")
fail_count += 1
continue
# 读取 Word 内容
word_content = read_word_content(word_doc)
if not word_content:
print(f"⚠️ 无法读取 Word 文档内容")
fail_count += 1
continue
base_dir = word_doc.parent
print(f"✓ 找到 Word 文档:{word_doc}")
print(f" 关联目录:{base_dir}")
# 建立文件关联
twole_folder = base_dir / "21世纪教育网"
zxxk_folder = base_dir / "学科网"
if not zxxk_folder.exists():
print("❌ 文件夹不存在,请先解压文件")
# 将失败的文件拷贝到本程序所在目录的 ee 子目录
script_dir = Path(__file__).parent
ee_dir = script_dir / "ee"
ee_dir.mkdir(exist_ok=True)
dest_file = ee_dir / folder.name
shutil.copy2(folder, dest_file)
print(f" 已拷贝失败文件到:{dest_file}")
fail_count += 1
continue
if not twole_folder.exists():
twole_folder = base_dir / "二一教育"
if not twole_folder.exists():
print("❌ 文件夹不存在,请先解压文件")
# 将失败的文件拷贝到本程序所在目录的 ee 子目录
script_dir = Path(__file__).parent
ee_dir = script_dir / "ee"
ee_dir.mkdir(exist_ok=True)
dest_file = ee_dir / folder.name
shutil.copy2(folder, dest_file)
print(f" 已拷贝失败文件到:{dest_file}")
fail_count += 1
continue
associations = build_file_associations(word_content, twole_folder, zxxk_folder)
# 保存 JSON 文件
output_file = server_jsons_dir / f"{word_doc.stem}.json"
with open(output_file, 'w', encoding='utf-8') as f:
json.dump(associations, f, ensure_ascii=False, indent=2)
print(f"✓ JSON 文件已保存到:{output_file}")
# 删除原文件夹
if args.delete_original:
shutil.rmtree(folder)
success_count += 1
except Exception as e:
print(f"❌ 处理失败:{e}")
fail_count += 1
print(f"\n===== 批量处理完成 =====")
print(f"成功:{success_count}, 失败:{fail_count}")
return
# 建立文件关联
if args.associate:
base_dir = Path(args.base_dir) if args.base_dir else Path("data")
word_doc = find_word_doc_recursive(base_dir)
if not word_doc:
print("⚠️ 未找到 Word 文档 (.doc 或 .docx),请先解压文件")
return
word_content = read_word_content(word_doc)
if not word_content:
print("⚠️ 无法读取 Word 文档内容")
return
base_dir = word_doc.parent
print(f"✓ 找到 Word 文档:{word_doc}")
print(f" 关联目录:{base_dir}")
twole_folder = base_dir / "21世纪教育网"
zxxk_folder = base_dir / "学科网"
if not twole_folder.exists() or not zxxk_folder.exists():
print("❌ 文件夹不存在,请先解压文件")
return
associations = build_file_associations(word_content, twole_folder, zxxk_folder)
# JSON 文件保存到 server 目录下的 jsons 文件夹,文件名与 Word 文档相同
server_jsons_dir = Path("server") / "jsons"
server_jsons_dir.mkdir(parents=True, exist_ok=True)
output_file = server_jsons_dir / f"{word_doc.stem}.json"
with open(output_file, 'w', encoding='utf-8') as f:
json.dump(associations, f, ensure_ascii=False, indent=2)
print(f"\n✓ 关联关系已保存到:{output_file}")
return
parser.print_help()
if __name__ == "__main__":
main()