中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

MySqlBulkLoader如何使用

發布時間:2022-07-14 13:55:50 來源:億速云 閱讀:271 作者:iii 欄目:開發技術

這篇文章主要介紹了MySqlBulkLoader如何使用的相關知識,內容詳細易懂,操作簡單快捷,具有一定借鑒價值,相信大家閱讀完這篇MySqlBulkLoader如何使用文章都會有所收獲,下面我們一起來看看吧。

一、MySqlBulkLoader的使用

我們先來定義個數據表student,表結構如下:

MySqlBulkLoader如何使用

創建一個core控制臺項目,相關代碼如下:

入口代碼:

using System;
using System.Collections.Generic;
namespace MySqlBulkLoaderDemo
{
    class Program
    {
        static void Main(string[] args)
        {
            //裝載30個數據
            List<Student> stuList = new List<Student>();
            for (int i = 0; i < 30; i++)
            {
                stuList.Add(
                new Student
                {
                    Guid = Guid.NewGuid().ToString(),
                    Name = "QXH",
                    Age = new Random().Next(1, 30)
                });
            }
            //調用MySqlBulkLoader,往student表中插入stuList
            int insertCount = MySqlBulkLoaderHelper.BulkInsert<Student>(stuList, "student");
            Console.WriteLine($"成功插入{insertCount}條數據");
            Console.ReadKey();
        }
    }
}

定義一個Student映射類:

using System;
using System.Collections.Generic;
using System.Text;

namespace MySqlBulkLoaderDemo
{
    public class Student
    {
        public string Guid { get; set; }
        public string Name { get; set; }
        public int Age { get; set; }
    }
}

定義一個MySqlBulkLoaderHelper類,用于存放相關方法:

using MySql.Data.MySqlClient;
using System;
using System.Collections.Generic;
using System.ComponentModel.DataAnnotations.Schema;
using System.Data;
using System.IO;
using System.Linq;
using System.Text;

namespace MySqlBulkLoaderDemo
{
    public class MySqlBulkLoaderHelper
    {
        const string ConnectionString = "server=localhost;port=3306;user=root;password=123456;database=mysql;SslMode = none;AllowLoadLocalInfile=true";
        public static int BulkInsert<T>(List<T> entities, string tableName)
        {
            DataTable dt = entities.ToDataTable();
            using (MySqlConnection conn = new MySqlConnection())
            {
                conn.ConnectionString = ConnectionString;
                if (conn.State != ConnectionState.Open)
                {
                    conn.Open();
                }

                if (tableName.IsNullOrEmpty())
                {
                    var tableAttribute = typeof(T).GetCustomAttributes(typeof(TableAttribute), true).FirstOrDefault();
                    if (tableAttribute != null)
                        tableName = ((TableAttribute)tableAttribute).Name;
                    else
                        tableName = typeof(T).Name;
                }

                int insertCount = 0;
                string tmpPath = Path.Combine(Path.GetTempPath(), DateTime.Now.Ticks.ToString() + "_" + Guid.NewGuid().ToString() + ".tmp");
                string csv = dt.ToCsvStr();
                File.WriteAllText(tmpPath, csv, Encoding.UTF8);

                using (MySqlTransaction tran = conn.BeginTransaction())
                {
                    MySqlBulkLoader bulk = new MySqlBulkLoader(conn)
                    {
                        FieldTerminator = ",",
                        FieldQuotationCharacter = '"',
                        EscapeCharacter = '"',
                        LineTerminator = "\r\n",
                        FileName = tmpPath,
                        Local = true,
                        NumberOfLinesToSkip = 0,
                        TableName = tableName,
                        CharacterSet = "utf8"
                    };
                    try
                    {
                        bulk.Columns.AddRange(dt.Columns.Cast<DataColumn>().Select(colum => colum.ColumnName).ToList());
                        insertCount = bulk.Load();
                        tran.Commit();
                    }
                    catch (MySqlException ex)
                    {
                        if (tran != null)
                            tran.Rollback();

                        throw ex;
                    }
                }
                File.Delete(tmpPath);
                return insertCount;
            }

        }
    }
}

定義一個幫助類ExtentionHelper,主要是擴展方法:

using Newtonsoft.Json;
using System;
using System.Collections.Generic;
using System.Data;
using System.Text;

namespace MySqlBulkLoaderDemo
{
    public static class ExtentionHelper
    {
        /// <summary>
        /// 將對象序列化成Json字符串
        /// </summary>
        /// <param name="obj">需要序列化的對象</param>
        /// <returns></returns>
        public static string ToJson(this object obj)
        {
            return JsonConvert.SerializeObject(obj);
        }
        /// <summary>
        /// 將Json字符串轉為DataTable
        /// </summary>
        /// <param name="jsonStr">Json字符串</param>
        /// <returns></returns>
        public static DataTable ToDataTable(this string jsonStr)
        {
            return jsonStr == null ? null : JsonConvert.DeserializeObject<DataTable>(jsonStr);
        }
        /// <summary>
        /// 將IEnumerable'T'轉為對應的DataTable
        /// </summary>
        /// <typeparam name="T">數據模型</typeparam>
        /// <param name="iEnumberable">數據源</param>
        /// <returns>DataTable</returns>
        public static DataTable ToDataTable<T>(this IEnumerable<T> iEnumberable)
        {
            return iEnumberable.ToJson().ToDataTable();
        }
        /// <summary>
        /// 判斷是否為Null或者空
        /// </summary>
        /// <param name="obj">對象</param>
        /// <returns></returns>
        public static bool IsNullOrEmpty(this object obj)
        {
            if (obj == null)
                return true;
            else
            {
                string objStr = obj.ToString();
                return string.IsNullOrEmpty(objStr);
            }
        }

        /// <summary>
        ///將DataTable轉換為標準的CSV字符串
        /// </summary>
        /// <param name="dt">數據表</param>
        /// <returns>返回標準的CSV</returns>
        public static string ToCsvStr(this DataTable dt)
        {
            //以半角逗號(即,)作分隔符,列為空也要表達其存在。
            //列內容如存在半角逗號(即,)則用半角引號(即"")將該字段值包含起來。
            //列內容如存在半角引號(即")則應替換成半角雙引號("")轉義,并用半角引號(即"")將該字段值包含起來。
            StringBuilder sb = new StringBuilder();
            DataColumn colum;
            foreach (DataRow row in dt.Rows)
            {
                for (int i = 0; i < dt.Columns.Count; i++)
                {
                    colum = dt.Columns[i];
                    if (i != 0) sb.Append(",");
                    if (colum.DataType == typeof(string) && row[colum].ToString().Contains(","))
                    {
                        sb.Append("\"" + row[colum].ToString().Replace("\"", "\"\"") + "\"");
                    }
                    else sb.Append(row[colum].ToString());
                }
                sb.AppendLine();
            }

            return sb.ToString();
        }
    }
}

完整項目:MySqlBulkLoaderDemo

運行結果如下:

MySqlBulkLoader如何使用

MySqlBulkLoader如何使用

二、MySqlBulkLoader使用過程中出現的問題

上邊已經完整了介紹了MySqlBulkLoader的使用,但是在使用過程中出現了很多問題,主要集中在兩方面,第一個方面是Mysql數據庫不支持加載本地文件數據;第二個方面是我的數據庫在阿里云服務器上,而代碼在本地,換句話說數據庫和項目是分別放在不同服務器上的。

1、Mysql數據庫不支持加載本地文件數據

(1)MySQLBulkLoader原理?

我們結合SQLBulkCopy來說,用過SqlServer數據庫的都熟悉SQLBulkCopy,很方便,可以直接將datatable中的數據批量導入到數據庫。與SQLBulkCopy不同,MySQLBulkLoader也稱為LOAD DATA INFILE,他要從文件讀取數據,所以我們需要將我們的數據集(如上邊的List<Student>)保存到文件,然后再從文件里面讀取。而對于Mysql來說,為了數據庫的安全,本地導入文件的配置沒有開啟,所以使用MySQLBulkLoader批量導入數據庫,就需要mysql數據庫支持本地導入文件。否則會出現以下錯誤:

The used command is not allowed with this MySQL version

MySqlBulkLoader如何使用

(2)解決方案

mysql數據庫開啟允許本地導入數據的配置,命令如下:

SET GLOBAL local_infile=1;//1表示開啟,0表示關閉

查看該配置的狀態命令如下:

SHOW VARIABLES LIKE '%local%';

MySqlBulkLoader如何使用

在項目里面的數據庫連接字符串做設置

數據庫連接字符串要加上”AllowLoadLocalInfile=true“,如下:

const string ConnectionString = "server=localhost;port=3306;user=root;password=123456;database=mysql;SslMode = none;AllowLoadLocalInfile=true";

2、數據庫和項目是分別放在不同服務器上

(1)問題描述

數據庫和項目是分別放在不同服務器上,會造成以下問題:

System.NotSupportedException
HResult=0x80131515
Message=To use MySqlBulkLoader.Local=true, set AllowLoadLocalInfile=true in the connection string. See https://fl.vu/mysql-load-data

MySqlBulkLoader如何使用

(2)原因

因為項目中將數據集生成的文件保存在了項目所在的服務器,另一個服務器上的數據庫在插入數據操作時,找不到數據集文件,導致的錯誤

(3)解決方法

方法很簡單,因為數據庫并不在項目所在的服務器,所以MySqlBulkLoader中要設置Local = true讀取本地文件,進行導入。具體代碼如下:

MySqlBulkLoader如何使用

關于“MySqlBulkLoader如何使用”這篇文章的內容就介紹到這里,感謝各位的閱讀!相信大家對“MySqlBulkLoader如何使用”知識都有一定的了解,大家如果還想學習更多知識,歡迎關注億速云行業資訊頻道。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

文山县| 正宁县| 奈曼旗| 津南区| 定日县| 怀远县| 蓝田县| 微山县| 迭部县| 吉林省| 宜阳县| 万源市| 永昌县| 嵊泗县| 湛江市| 怀集县| 平乐县| 神农架林区| 宜兰县| 兴城市| 北票市| 翁牛特旗| 杭州市| 信阳市| 松溪县| 丹江口市| 社旗县| 凌源市| 柞水县| 长汀县| 乌什县| 修水县| 西和县| 扶余县| 思茅市| 江山市| 云阳县| 海兴县| 衡阳县| 丹寨县| 台南市|