图书完整内容怎样存储在后端数据库中? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
dream4ever
V2EX    程序员

图书完整内容怎样存储在后端数据库中?

  •  1
     
  •   dream4ever 2024-08-01 16:44:50 +08:00 3722 次点击
    这是一个创建于 435 天前的主题,其中的信息可能已经有所发展或是发生改变。

    目前有一批图书的 InDesign 文件,需要把图书内容进行数字化处理,最终以在线图书的形式呈现。

    现在已经从 InDesign 导出了 HTML + CSS + 图片,接下来需要把 HTML 的内容和图片上传到数据库,想问一下 HTML 的内容用什么样的数据结构存储比较合理?

    其中 HTML 会有标题、正文、图片、表格、音视频、超链接等各种类型的内容。

    另外还希望能够给图书使用不同的主题,比如主题一的 h1 用的某种字号和颜色,主题二的 h1 用另一种字号和颜色。

    23 条回复    2024-08-02 21:11:55 +08:00
    opengps
        1
    opengps  
       2024-08-01 16:46:11 +08:00
    直接作为文件存储,而不是用数据库存储
    dream4ever
        2
    dream4ever  
    OP
       2024-08-01 16:47:52 +08:00
    @opengps 后期还需要实现各种读书软件常见的高亮、笔记之类的功能,作为文件存储的话,这类功能不方便实现吧?
    yunv2
        3
    yunv2  
       2024-08-01 16:51:05 +08:00
    @dream4ever 高亮、笔记单独保存,在前端回显的时候进行处理展示,而不是保存到图书原数据中
    opengps
        4
    opengps  
       2024-08-01 16:51:21 +08:00
    在数据库存储本身是要额外一层格式转换的。
    你取用数据的过程其实都是原始内容,然后加了某些处理操作,你存数据库要比直接存原始内容多一层转换格式过程,效率更低。
    dream4ever
        5
    dream4ever  
    OP
       2024-08-01 16:51:44 +08:00
    @yunv2 这个肯定是要和图书原始数据分开保存的。
    hahastudio
        6
    hahastudio  
       2024-08-01 16:56:09 +08:00
    我觉得这个问题跟视频索引类似,只不过可能因为图书文件小一些
    td width="auto" valign="top" align="left">
        7
    RandomJoke  
       2024-08-01 17:01:23 +08:00   1
    书的内容感觉还是存文件合理些,你要实现的功能再用其他数据库。
    比如书先丢到各种云存储中,path 入关系型数据库,做一些分类,收藏,标题搜索等内容。
    后续的功能针对书 id 建立笔记,高亮内容等。比如 https://github.com/alienzhou/blog/issues/28
    RandomJoke
    wyl986
        8
    wyl986  
       2024-08-01 17:04:06 +08:00
    图书做文件存储,es 里面存个简化版的(纯文字,去掉 html 、图片的)用来做搜索,用户的备注、笔记、高亮存 redis 或者 es 或者也存文件,前端处理;做过一个类似微信公众号的项目,需要显示某个句子被 n 个人划线了,存的持久化的 redis
    dream4ever
        9
    dream4ever  
    OP
       2024-08-01 17:04:50 +08:00
    @opengps
    @yunv2
    @RandomJoke 刚想起来个事,如果要做全文搜索,基于文件存储的方案是不是还得想办法再把图书的文字内容索引一遍放数据库……
    dream4ever
        10
    dream4ever  
    OP
       2024-08-01 17:05:47 +08:00
    @wyl986 啊,我刚发完消息就看见你的回复,感谢~
    c3de3f21
        11
    c3de3f21  
       2024-08-01 17:07:29 +08:00
    仅代表个人分析问题的思路,没有实践经验没有权威性和成熟落地的解决方案:

    首先按照一本书来说必要的属性有什么?标题,作者,简介,目录,页码,脚注,还有您说到的各种媒体类型等等,如果能把这些信息全都分析出来,那么自然就可以分析 ER 图按照常规结构化存储了,但是感觉很困难,我会搜一下有没有适合存图书的引擎或者什么框架。

    其次标注或者后期按照账号来自定义笔记呀类似 kindle 那种,在下分析出来的核心难点是 我如何知道用户在哪一段标了什么颜色做了什么注释,这些内容后续如何修改,我会分析到那一页的第几行的第几个字符到第几行的第几个字符截至,这就依赖于页码和段落,可能这种方式太复杂了,需要结构化存储到段落了。

    上面的思路很难,我试图转变思路,如果用户的输入完毕的内容是一层蒙版叠加在了页上呢?那可能就涉及到了分辨率和修改等其他的问题。

    专业的事情一定有专业的工具,于是我尝试搜索,搜到了 https://readium.org/ts-toolkit/ 这么个东西,了解到了定位器和 Parser ,还有 apache 的一个 apache tika

    不知道能不能派上什么用场
    wyl986
        12
    wyl986  
       2024-08-01 17:09:32 +08:00
    @dream4ever #9 搜索存个简化版的到 es 里面,后期还可以自己写分词器(我之前做过的是某专业领域方面的,存的文章主要是论文,涉及很多专业词汇,ik 的分词效果不是很好)
    dream4ever
        13
    dream4ever  
    OP
       2024-08-01 17:09:36 +08:00
    @c3de3f21 多谢,我也去看看说的这些工具。
    c3de3f21
        14
    c3de3f21  
       2024-08-01 17:11:05 +08:00
    @wyl986 老哥有没有什么专业的开源框架或者分析工具?
    wyl986
        15
    wyl986  
       2024-08-01 17:13:29 +08:00
    @dream4ever #10 备注、笔记、高亮具体存 redis 还是 es 还是文件,主要看这些内容是否需要被其他用户看到、访问频率;文件存很简单,但是大量 io 的话就很容易出问题;最好还是存 redis ,操作起来方便、性能、速度都很好
    wyl986
        16
    wyl986  
       2024-08-01 17:17:48 +08:00
    @c3de3f21 #14 你是说自己弄内容的分词器吗?还是单纯搜索分析文本?其实我感觉 meilisearch 现在也挺不错的
    malusama
        17
    malusama  
       2024-08-01 17:25:42 +08:00
    不过现在相似内容搜索不是喜欢用模型类似 https://huggingface.co/BAAI/bge-m3 出段落的 embedding 么
    yy77
        18
    yy77  
       2024-08-01 17:25:53 +08:00
    搞成 pdf 不成么? pdf 也有直接在网页上显示的法子。
    KisekiRemi
        19
    KisekiRemi  
       2024-08-01 17:56:52 +08:00
    你这些数据可以存到云端 OSS 里然后抛出链接地址吧
    Ayanokouji
        20
    Ayanokouji  
       2024-08-01 18:00:51 +08:00
    dream4ever
        21
    dream4ever  
    OP
       2024-08-01 21:17:03 +08:00
    @yy77 业务要求做成纯粹的网页端阅读,不考虑 PDF 了。
    bk201
        22
    bk201  
       2024-08-02 12:45:34 +08:00
    如果要结构化存储的话,参考一下电子书的文档格式。
    itechify
        23
    itechify  
    PRO
       2024-08-02 21:11:55 +08:00
    问个题外话,可以用 ES 存储吗?
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2667 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 27ms UTC 15:08 PVG 23:08 LAX 08:08 JFK 11:08
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86