34
4
Khai thác thông tin tự động đã được phát triển trong nhiều thập kỷ. Mặc dù có nhiều mô hình nhưng khả năng khái quát hóa khó có thể mô tả là thỏa đáng cho đến khi LLM ra đời. Mặc dù chất lượng trích xuất thông tin cuối cùng vẫn cần có sự xem xét của chuyên gia nhưng hiệu quả trích xuất thông tin đã được cải thiện rất nhiều. Bởi vì các phương pháp truyền thống đòi hỏi nhiều thời gian để hoàn thành việc làm sạch, chú thích và huấn luyện dữ liệu, sau đó là trích xuất thực thể, trích xuất thuộc tính thực thể, trích xuất mối quan hệ thực thể, trích xuất sự kiện, liên kết thực thể và phân giải tham chiếu, v.v. Giờ đây với LLM, việc trích xuất thông tin Zero/One/Ít-Shot có thể được triển khai để xây dựng biểu đồ tri thức. 1. Quá trình triển khai ChatIE Về cơ bản, ChatIE biến nhiệm vụ IE không mẫu thành một câu hỏi và trả lời nhiều vòng trong khuôn khổ hai giai đoạn (ChatGPT được sử dụng, cũng có thể được sửa đổi thành ChatGLM2). và giai đoạn thứ hai? Về bản chất thì đó vẫn là thiết kế của Nhắc. Tiếp theo, chúng ta sẽ lấy RE (Trích xuất quan hệ) làm ví dụ, NER (Nhận dạng thực thể được đặt tên) và EE (Trích xuất sự kiện), v.v. Hãy xem một ví dụ như dưới đây: 1. Giai đoạn đầu tiên Mẫu cho giai đoạn đầu tiên như sau: 2. Mẫu đoạn thứ hai của giai đoạn thứ hai như sau: ChatIE giải quyết việc trích xuất thông tin Zero-Shot và xây dựng biểu đồ tri thức thông qua nhiều vòng câu hỏi và câu trả lời ChatGPT hai giai đoạn. Nhưng có một vấn đề: việc trích xuất sai mối quan hệ có thể hoặc chắc chắn sẽ xảy ra. Chúng ta nên làm gì? Một giải pháp cho dự án là giới thiệu nhiều trọng tài. Ví dụ: ChatGPT là trọng tài, Wen Xinyiyan là trọng tài, trích xuất mối quan hệ thực thể BERT là trọng tài và trích xuất mối quan hệ thực thể quy tắc là trọng tài. Ví dụ: theo yêu cầu về độ chính xác của kiến thức, nếu cả bốn trọng tài đều nhất quán, nó sẽ tự động được cập nhật vào cơ sở kiến thức. Nếu không, cần phải xác minh thủ công để xác minh xem việc trích xuất mối quan hệ thực thể có chính xác hay không. Tự động cập nhật biểu đồ tri thức là một hoạt động kỹ thuật yêu cầu chức năng xem xét thủ công để đảm bảo đánh giá cuối cùng khi nhận dạng mô hình không nhất quán. 3. Kết quả kiểm tra Kết quả kiểm tra ChatIE trên các tác vụ khác nhau (RE, NER và EE) và các bộ dữ liệu khác nhau như sau: 2. Sử dụng ChatGLM2 để trích xuất thông tin [1] Phần này thay thế ChatGPT bằng ChatGLM2 cho nhiều vòng hỏi đáp. Trong thực tế trích xuất kiến thức tài chính bằng ChatGLM2, hai vòng đối thoại đã được cài sẵn trong ChatGLM và đạt kết quả tốt. Phần triển khai mã cụ thể, vui lòng tham khảo [9]. Ý tưởng cơ bản là tải mô hình ChatGLM2, sau đó khởi tạo Nhắc (phân loại và trích xuất thông tin) và cuối cùng hoàn tất quá trình suy luận dựa trên đầu vào và mô hình. Hiểu một cách đơn giản thì ý tưởng tổng thể là xây dựng một biểu đồ tri thức thông qua trích xuất thông tin few-shot. (1) Tải mô hình ChatGLM2. (2) Khởi tạo lời nhắc. custom_settings数据结构中的内容如下所示： （3）根据输入和模型完成推理过程 。 如果实体关系抽取搞定了，那么自动更新到NebulaGraph就比较简单了，可参考 NebulaGraph实战：2-NebulaGraph手工和Python操作 . 参考文献： [1]利用ChatGLM构建知识图谱：https://discuss.nebula-graph.com.cn/t/topic/13029 [2]ChatGPT+SmartKG 3分钟生成"哈利波特"知识图谱：https://www.msn.cn/zh-cn/news/technology/chatgpt-smartkg-3分钟生成-哈利波特-知识图谱/ar-AA17ykNr [3]ChatIE：https://github.com/cocacola-lab/ChatIE [4]ChatIE：http://124.221.16.143:5000/ [5]financial_chatglm_KG：https://github.com/zhuojianc/financial_chatglm_KG [6]Creating a Knowledge Graph From Video Transcripts With ChatGPT 4：https://neo4j.com/developer-blog/chatgpt-4-knowledge-graph-from-video-transcripts/ [7]GPT4IE：https://github.com/cocacola-lab/GPT4IE [8]GPT4IE：http://124.221.16.143:8080/ [9]https://github.com/ai408/nlp-engineering/blob/main/20230917_NLP工程化公众号文章\NebulaGraph教程\NebulaGraph实战：3-信息抽取构建知识图谱 。
df_ret = {
'Trung Quốc'
: {
'Album'
: [
'bài hát'
,
'album nhạc'
],
'Ngày thành lập'
: [
'cơ chế'
,
'Ngày'
],
'độ cao'
: [
'Địa điểm'
,
'Con số'
],
'ngôn ngữ chính thức'
: [
'Quốc gia'
,
'ngôn ngữ'
],
'Diện tích sàn'
: [
'cơ chế'
,
'Con số'
],
'Bố'
: [
'nhân vật'
,
'nhân vật'
],
'ca sĩ'
: [
'bài hát'
,
'nhân vật'
],
'nhà sản xuất'
: [
'Tác phẩm điện ảnh và truyền hình'
,
'nhân vật'
],
'giám đốc'
: [
'Tác phẩm điện ảnh và truyền hình'
,
'nhân vật'
],
'thủ đô'
: [
'Quốc gia'
,
'Thành phố'
],
'đóng vai chính'
: [
'Tác phẩm điện ảnh và truyền hình'
,
'nhân vật'
],
'Chủ tịch'
: [
'doanh nghiệp'
,
'nhân vật'
],
'nhà tổ tiên'
: [
'nhân vật'
,
'Địa điểm'
],
'vợ'
: [
'nhân vật'
,
'nhân vật'
],
'Mẹ'
: [
'nhân vật'
,
'nhân vật'
],
'khí hậu'
: [
'khu hành chính'
,
'khí hậu'
],
'khu vực'
: [
'khu hành chính'
,
'Con số'
],
'nhân vật chính'
: [
'tác phẩm văn học'
,
'nhân vật'
],
'mã bưu chính'
: [
'khu hành chính'
,
'Chữ'
],
'viết tắt'
: [
'cơ chế'
,
'Chữ'
],
'Công ty sản xuất'
: [
'Tác phẩm điện ảnh và truyền hình'
,
'doanh nghiệp'
],
'Vốn đăng ký'
: [
'doanh nghiệp'
,
'Con số'
],
'nhà biên kịch'
: [
'Tác phẩm điện ảnh và truyền hình'
,
'nhân vật'
],
'Người sáng lập'
: [
'doanh nghiệp'
,
'nhân vật'
],
'Trường tốt nghiệp'
: [
'nhân vật'
,
'Trường học'
],
'quốc tịch'
: [
'nhân vật'
,
'Quốc gia'
],
'Mã chuyên nghiệp'
: [
'Chủ đề chính'
,
'Chữ'
],
'triều đại'
: [
'nhân vật lịch sử'
,
'Chữ'
],
'tác giả'
: [
'sách tác phẩm'
,
'nhân vật'
],
'lời bài hát'
: [
'bài hát'
,
'nhân vật'
],
'Thành phố'
: [
'điểm tham quan'
,
'Thành phố'
],
'khách mời'
: [
'Chương trình tạp kỹ truyền hình'
,
'nhân vật'
],
'Vị trí trụ sở chính'
: [
'doanh nghiệp'
,
'Địa điểm'
],
'Dân số'
: [
'khu hành chính'
,
'Con số'
],
'Người phát ngôn'
: [
'Doanh nghiệp/Thương hiệu'
,
'nhân vật'
],
'Chuyển thể từ'
: [
'Tác phẩm điện ảnh và truyền hình'
,
'công việc'
],
'hiệu trưởng'
: [
'Trường học'
,
'nhân vật'
],
'chồng'
: [
'nhân vật'
,
'nhân vật'
],
'chủ nhà'
: [
'Chương trình tạp kỹ truyền hình'
,
'nhân vật'
],
'bài hát chủ đề'
: [
'Tác phẩm điện ảnh và truyền hình'
,
'bài hát'
],
'Nhiều năm học tập'
: [
'Chủ đề chính'
,
'Con số'
],
'Thành phần'
: [
'bài hát'
,
'nhân vật'
],
'Con số'
: [
'nhân vật lịch sử'
,
'Chữ'
],
'thời gian chiếu'
: [
'Tác phẩm điện ảnh và truyền hình'
,
'Ngày'
],
'phòng vé'
: [
'Tác phẩm điện ảnh và truyền hình'
,
'Con số'
],
'chơi'
: [
'nhân vật giải trí'
,
'nhân vật'
],
'lồng tiếng'
: [
'nhân vật giải trí'
,
'nhân vật'
],
'chiến thắng'
: [
'nhân vật giải trí'
,
'giải thưởng'
]
}
}
re_s1_p = {
'Trung Quốc'
:
''
'Câu đã cho là: "{}"\n\nDanh sách mối quan hệ đã cho: {}\n\nNhững mối quan hệ nào có thể được bao gồm trong câu này? \nHãy đưa ra mối quan hệ trong danh sách mối quan hệ. \nNếu nó không tồn tại, hãy trả lời: Không\nTrả lời dưới dạng bộ dữ liệu, chẳng hạn như (Quan hệ 1, Quan hệ 2, ...):'
''
,
}
re_s2_p = {
'Trung Quốc'
:
''
'Theo câu đã cho, loại của hai thực thể là ({}, {}) và mối quan hệ giữa chúng là {}. Hãy tìm hai thực thể này. Nếu có nhiều nhóm, hãy liệt kê tất cả chúng theo nhóm. \nNếu nó không tồn tại, hãy trả lời: Không\nTrả lời ở dạng bảng. Bảng có hai cột và tiêu đề là ({}, {}):'
''
,
}
tokenizer = AutoTokenizer.from_pretrained(r
"L:/20230713_HuggingFaceModel/chatglm2-6b"
, trust_remote_code=Đúng)
#Chỉ định mã thông báo để sử dụng
mô hình = AutoModel.from_pretrained(r
"L:/20230713_HuggingFaceModel/chatglm2-6b"
, trust_remote_code=Đúng).half().cuda()
#Chỉ định mô hình sẽ sử dụng
mô hình = mô hình.eval()
# Chỉ định model làm chế độ eval
định nghĩa init_prompts():
""
"
Khởi tạo lời nhắc trước để tạo điều kiện thuận lợi cho việc tìm hiểu mô hình theo ngữ cảnh.
"
""
class_list = danh sách(class_examples.keys())
# Lấy danh mục phân loại, class_list = ['Fund', 'Stock']
cls_tiền_sử = [
(
nếu
'Bây giờ bạn đã là người phân loại văn bản, bạn cần phân loại các câu tôi đưa cho bạn thành: các danh mục {class_list} theo yêu cầu. '
,
nếu
'ĐƯỢC RỒI. '
)
]
vì
_type, ví dụ
TRONG
class_examples.items():
# Duyệt qua các danh mục và ví dụ về phân loại
cls_pre_history.append((f
'{exmpale}" là danh mục nào trong {class_list}? '
, _type))
# 拼接前置prompt
ie_pre_history = [
(
"现在你需要帮助我完成信息抽取任务，当我给你一个句子时，你需要帮我抽取出句子中三元组，并按照JSON的格式输出，上述句子中没有的信息用['原文中未提及']来表示，多个值之间用','分隔。"
,
'好的，请输入您的句子。'
)
]
vì
_type, example_list
TRONG
ie_examples.items():
# Duyệt qua các danh mục và ví dụ về phân loại
vì
example
TRONG
example_list:
# 遍历例子
sentence = example[
'nội dung'
]
# 获取句子
properties_str =
', '
.join(schema[_type])
# 拼接schema
schema_str_list = f
'“{_type}”({properties_str})'
# 拼接schema
sentence_with_prompt = IE_PATTERN.format(sentence, schema_str_list)
# 拼接前置prompt
ie_pre_history.append((
# 拼接前置prompt
f
'{sentence_with_prompt}'
,
f
"{json.dumps(example['answers'], ensure_ascii=False)}"
))
trở lại
{
'ie_pre_history'
: ie_pre_history,
'cls_pre_history'
: cls_pre_history}
# 返回前置prompt
def inference(
sentences: list,
custom_settings: dict
):
""
"
推理函数。
Args:
sentences (List[str]): 待抽取的句子。
custom_settings (dict): 初始设定，包含人为给定的few-shot example。
"
""
vì
sentence
TRONG
sentences:
# 遍历句子
with console.status(
"[bold bright_green] Model Inference..."
):
# 显示推理中
sentence_with_cls_prompt = CLS_PATTERN.format(sentence)
# 拼接前置prompt
cls_res, _ = model.chat(tokenizer, sentence_with_cls_prompt,
history
=custom_settings[
'cls_pre_history'
])
# 推理
nếu như
cls_res not
TRONG
schema:
# 如果推理结果不在schema中，报错并退出
in
(và)
'The type model inferenced {cls_res} which is not in schema dict, exited.'
)
ra
()
properties_str =
', '
.join(schema[cls_res])
# 拼接schema
schema_str_list = f
'“{cls_res}”({properties_str})'
# 拼接schema
sentence_with_ie_prompt = IE_PATTERN.format(sentence, schema_str_list)
# 拼接前置prompt
ie_res, _ = model.chat(tokenizer, sentence_with_ie_prompt,
history
=custom_settings[
'ie_pre_history'
])
# 推理
ie_res = clean_response(ie_res)
# 后处理
in
(và)
'>>> [bold bright_red]sentence: {sentence}'
)
# 打印句子
in
(và)
'>>> [bold bright_green]inference answer: '
)
# 打印推理结果
in
(ie_res)
# 打印推理结果
最后此篇关于NebulaGraph实战：3-信息抽取构建知识图谱的文章就讲到这里了,如果你想了解更多关于NebulaGraph实战：3-信息抽取构建知识图谱的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。
34
4
0
Tôi gặp sự cố khi xây dựng một ứng dụng cụ thể bằng gradle. Ứng dụng có thể được biên dịch và xây dựng bằng Eclipse và nó chạy tốt trên máy tính bảng. Khi tôi cố gắng xây dựng nó bằng Gradle, "compileDebugJava"
Tôi có một chương trình C được một nhà phát triển đã để lại cho tôi. Tôi đang cố gắng tìm hiểu xem anh ấy đang làm cái quái gì và sắp xếp lại phần mềm thành thứ gì đó hợp lý hơn để tôi có thể xây dựng nó dễ dàng hơn. Tôi đang xây dựng bằng CMake và anh ấy đang sử dụng Make. có
Tôi mới bắt đầu đọc "Pro Spring MVC with web flow" và nó đi kèm với một mã ví dụ mà tôi muốn làm theo. Mình muốn gì - Mình muốn build app như trong sách, dùng Gradle có vấn đề gì - Mình chưa dùng Gr
Tôi hy vọng ai đó đã làm điều này. Tôi đang cố gắng thiết lập một bản dựng liên tục trong teamcity cho một trong 2 dự án góc cạnh của mình. Sau khi thực hiện một số nghiên cứu, tôi đã làm theo các bước sau: Xây dựng Bước 1: Cài đặt j cho teamcity
Tôi có một giải pháp trang web ASP.Net cũ trông giống như: Khi tôi xây dựng giải pháp trong Visual Studio, tôi nhận được kết quả đầu ra sau: ------ Quá trình xây dựng đã bắt đầu: Dự án: C:\..
Tôi sử dụng gulp-usref, gulp-if, gulp-uglify, gulp-csso và gulp-file-include để xây dựng ứng dụng của mình. Mọi thứ trong bản dựng đều hoạt động tốt ngoại trừ HTML vẫn giữ nguyên
Tôi đang sử dụng ionic2 để phát triển ứng dụng di động nội bộ. Tôi có thể xây dựng ios thành công với: ionic build ios và ionic build ios --prod nhưng khi tôi làm điều này thì nó cứ thất bại
Tôi là một nhà phát triển .NET/C# có kinh nghiệm nhưng mới làm quen với hầu hết mọi công nghệ/thư viện ở đây (bao gồm cả công việc SQL/DB). Tôi đang phát triển một dự án với phần phụ trợ và di động Azure/Entity Framework .NET
Tôi đang sử dụng VS2008. Tôi có thể biên dịch thành công giải pháp của mình bằng IDE. Tuy nhiên, khi tôi cố gắng xây dựng nó bằng devenv.com, nó không thành công với "Lỗi: Không tìm thấy đầu ra cho nhóm đầu ra dự án '(không thể xác định tên)". nhóm, cấu hình của nó, hoặc
Phiên bản: ember.js 2.7, ember-data 2.7 ember-cli 2.9.1//cũng áp dụng cho ember-cli 2.7 nút 6.9.1, npm 3.10.9//cũng áp dụng cho no
Lần đầu tiên vá AzureDevops, tôi đã thiết lập một số tác vụ CI. Tôi có một kho lưu trữ công cộng (mã nguồn mở) và một giải pháp (.sln) chứa 3 dự án F#. Giải pháp này hoạt động trên Windows/Mac/Li
Có vẻ như VS2008 vẫn không được hỗ trợ trong phiên bản 5.1.5 hoặc trong kho STLPort CVS. Nếu bất cứ ai đã làm điều này, sẽ rất hữu ích nếu có thể chia sẻ :) Ngoài ra, hãy biết về các bản dựng VS2005 hoặc 2008 x64
Tôi có một dự án Python 2.7 và cho đến nay tôi vẫn đang sử dụng gfortran và MinGW để xây dựng các tiện ích mở rộng. Tôi đang sử dụng MinGW vì nó dường như hỗ trợ các câu lệnh ghi và mảng có thể phân bổ trong mã Fortran, trong khi MSVC
đóng cửa. Câu hỏi này lạc đề. Hiện tại nó không chấp nhận câu trả lời. Bạn muốn cải thiện câu hỏi này? Đã cập nhật câu hỏi để nó phù hợp với chủ đề về Stack Overflow. Đóng cửa 9 năm trước Cải thiện hàng đợi này
Tôi đang thắc mắc tại sao chỉ có những nền tảng cụ thể cho quá trình xây dựng mới được liệt kê trong Zimbra Wiki. Điều này có nghĩa là không thể xây dựng Zimbra trên các bản phân phối Linux khác phải không? Cộng đồng Zimbra chọn bản phân phối Linux đặc biệt để xây dựng Zi
Tôi sẽ xây dựng một công cụ CLI trong Swift. Tôi đã tạo dự án bằng lệnh này swift package init --typeexecutable và khi tôi xây dựng dự án của mình và phân tích cú pháp, nó sẽ đọc các tham số bí danh trong Xcode và
Tôi muốn đặt quyền truy cập tệp cho các tệp được thêm vào hình ảnh docker. Tôi có Dockerfile đơn giản này: FROM ubuntu:utopic WORKDIR /app RUN groupadd -g 1000 b
Khi tôi sử dụng clBuildProgram trong mã OpenCl của mình, nó không thành công với mã lỗi -11 mà không có bất kỳ thông tin nhật ký nào. Mã của tôi trông như thế này: ret = clBuildProgram(program
Tôi có thanh điều hướng phía dưới có trang danh sách sử dụng khối trạng thái. lớp _MainPageState mở rộng Trạng thái { int _index = 0; @override Wi
Tôi đang sử dụng Jenkins trên máy cục bộ của mình (URL Jenkins không được hiển thị qua Internet, nhưng Internet được bật trên máy đó.) Tôi đã thực hiện các thay đổi cấu hình sau: Đã cài đặt các plugin Git và Github trên công cụ Jenkins
Trung tâm cá nhân
Điều phát hành
từ bỏ
Tôi là một lập trình viên xuất sắc, rất giỏi!