NTTH

Array Manipulation

2022-04-08T00:00:00+00:00

Problem

Starting with a 1-indexed array of zeros and a list of operations, for each operation add a value to each the array element between two given indices, inclusive. Once all operations have been performed, return the maximum value in the array.

Example

Queries are interpreted as follows:

a b k
1 5 3
4 8 7
6 9 1 Add the values of  between the indices  and  inclusive: ``` index->	 1 2 3  4  5 6 7 8 9 10
[0,0,0, 0, 0,0,0,0,0, 0]
[3,3,3, 3, 3,0,0,0,0, 0]
[3,3,3,10,10,7,7,7,0, 0]
[3,3,3,10,10,8,8,8,1, 0] ```

The largest value is after all operations are performed.

Function Description

Complete the function arrayManipulation in the editor below.

arrayManipulation has the following parameters:

int n - the number of elements in the array int queries[q][3] - a two dimensional array of queries where each queries[i] contains three integers, a, b, and k.

Returns

int - the maximum value in the resultant array

Input Format

The first line contains two space-separated integers and , the size of the array and the number of operations. Each of the next lines contains three space-separated integers , and , the left index, right index and summand.

Constraints

Sample Input

Sample Output

Explanation

After the first update the list is 100 100 0 0 0.

After the second update list is 100 200 100 100 100.

After the third update list is 100 200 200 200 100.

The maximum value is 200.

Solution

Assign the array value at position a is k and position b+1 is -k, this we can simply understand that when we go on the segment [a,b] the value will be k and if we get out of it will subtract k.
After that, we only need to find the segment with the largest sum in the sequence with n elements.

Example:

Input:

Output:

Solve:

Begin:

arr[10] = [0, 0, 0, 0, 0, 0, 0, 0, 0, 0]

With query 0: the segment [a,b] is [1,5] and k is 3
```
arr[10] = [3, 0, 0, 0, 0, -3, 0, 0, 0, 0]
```
With query 0: the segment [a,b] is [4,8] and k is 7
```
arr[10] = [3, 0, 0, 7, 0, -3, 0, 0, -7, 0]
```
With query 0: the segment [a,b] is [6,9] and k is 1
```
arr[10] = [3, 0, 0, 7, 0, -2, 0, 0, 0, -1]
```
End: the result is the largest sum of array.

Code

int main()
{
    long n,m;
    cin >> n >> m;
    vector < vector<long> > queries;
    vector <long> arr (n+1, 0);
    long a, b, k,res = 0;
    for (long i=0; i<m; i++)
    {
        cin >> a >> b >> k;
        arr[a-1] += k;
        arr[b] += -k;
    }
    long tmp = 0;
    for (int i=0; i<n; i++)
    {
        //cout << arr[i] << " ";
        tmp += arr[i];
        res = max(res, tmp);
    }
    cout << res;
    return 0;
}

Minimum Swaps 2

2022-04-08T00:00:00+00:00

Problem

You are given an unordered array consisting of consecutive integers [1, 2, 3, …, n] without any duplicates. You are allowed to swap any two elements. Find the minimum number of swaps required to sort the array in ascending order.

Example

Perform the following steps:

i   arr                         swap (indices)
 [7, 1, 3, 2, 4, 5, 6]   swap (0,3)
 [2, 1, 3, 7, 4, 5, 6]   swap (0,1)
 [1, 2, 3, 7, 4, 5, 6]   swap (3,4)
 [1, 2, 3, 4, 7, 5, 6]   swap (4,5)
 [1, 2, 3, 4, 5, 7, 6]   swap (5,6)
 [1, 2, 3, 4, 5, 6, 7]

It took 5 swaps to sort the array.

Function Description

Complete the function minimumSwaps in the editor below.

minimumSwaps has the following parameter(s):

int arr[n]: an unordered array of integers

Returns

int: the minimum number of swaps to sort the array Input Format

The first line contains an integer n, the size of arr. The second line contains n space-separated integers arr[i].

Constraints

Sample Input 0
```
4
4 3 1 2
```
Sample Output 0
```
3
```
Explanation 0

Given array

After swapping (0,2) we get

After swapping (1,2) we get

After swapping (1,3) we get

So, we need a minimum of 3 swaps to sort the array in ascending order.

Sample Input 1

5
2 3 4 1 5

Sample Output 1

Sample Input 2

7
1 3 5 2 4 6 7

Sample Output 2

Solution

If the position of a[i] already coincides with i+1, then ignore
Otherwise change a[i] to the a[i]-1th position and stay in place until at position i-1 is a[i]

Code

void swap(int &a, int &b)
{
    int temp = a;
    a = b;
    b = temp;
}
// Complete the minimumSwaps function below.
int minimumSwaps(vector<int> arr) {
    int res = 0;
    for (int i=0;i<arr.size();i++)
    {
        if (arr[i]==i+1)
            continue;
        
        swap(arr[i],arr[arr[i]-1]);
        res++;
        i--;
    }
    return res;
}

New Year Chaos

2022-04-08T00:00:00+00:00

Problem

It is New Year’s Day and people are in line for the Wonderland rollercoaster ride. Each person wears a sticker indicating their initial position in the queue from 1 to n . Any person can bribe the person directly in front of them to swap positions, but they still wear their original sticker. One person can bribe at most two others.

Determine the minimum number of bribes that took place to get to a given queue order. Print the number of bribes, or, if anyone has bribed more than two people, print Too chaotic.

Example

If person 5 bribes person 4, the queue will look like this: 1,,2,3,5,4,6,7,8 . Only 1 bribe is required. Print 1.

Person 4 had to bribe 3 people to get to the current position. Print Too chaotic.

Function Description

Complete the function minimumBribes in the editor below.

minimumBribes has the following parameter(s):

int q[n]: the positions of the people after all bribes

Returns

No value is returned. Print the minimum number of bribes necessary or Too chaotic if someone has bribed more than 2 people.

Input Format

The first line contains an integer t, the number of test cases.

Each of the next t pairs of lines are as follows:

The first line contains an integer t, the number of people in the queue
The second line has n space-separated integers describing the final state of the queue.

Constraints

Subtasks

For score

For score <!– s

Sample Input

STDIN       Function
-----       --------
         t = 2
         n = 5
1 5 3 4   q = [2, 1, 5, 3, 4]
         n = 5
5 1 3 4   q = [2, 5, 1, 3, 4]

Sample Output

3
Too chaotic

Solution

For each element to the number of elements greater than it is in front of it, this is simply understood that the person in the back wants to move forward.
If the position after shifting forward 3 units, the printout is too chaotic.

Code

void minimumBribes(vector<int> q) 
{
    int total=0;
    for (int i = q.size()-1;i>=0;i--)
    {
        if (q[i]-i-1 > 2)
        {
            cout << "Too chaotic \n";
            return;
        }
        for (int j = max(0,q[i]-2);j<i;j++)
        {
            if (q[j]>q[i])
                total++;
        }
    }
    cout << total << "\n";
}

MAKETREE - Hierarchy

2022-04-08T00:00:00+00:00

Problem

A group of graduated students decided to establish a company; however, they don’t agree on who is going to be who’s boss.

Generally, one of the students will be the main boss, and each of the other students will have exactly one boss (and that boss, if he is not the main boss, will have a boss of his own too). Every boss will have a strictly greater salary than all of his subordinates - therefore, there are no cycles. Therefore, the hierarchy of the company can be represented as a rooted tree.

In order to agree on who is going to be who’s boss, they’ve chosen K most successful students, and each of them has given a statement: I want to be the superior of him, him, and him (they could be successful or unsuccessful). And what does it mean to be a superior? It means to be the boss, or to be one of the boss’ superiors (therefore, a superior of a student is not necessary his direct boss).

Help this immature company and create a hierarchy that will satisfy all of the successful students’ wishes. A solution, not necessary unique, will exist in all of the test data.

Input Format In the first line of input, read positive integers N ( ), total number of students, and KK ( ), the number of successful students. All students are numbered 1..N, while the successful ones are numbered 1..K. Then follow K lines. In of these lines, first read an integer W (the number of wishes of the student A, ), and then W integers from the range [1, N] which denote students which student A wants to be superior to.

Output Format Output N integers. The of these integers should be 0 if student A is the main boss, and else it should represent the boss of the student A.

Solution

Xây dựng một đồ thị có hướng không trọng số tương ứng với các nguyện vọng của K người xuất sắc nhất: có cạnh nối khi người u muốn làm cấp trên của v. Đồ thị này không có chu trình nên có thể sắp xếp Topo được. Gọi T là thứ tự Topo của đồ thị vừa xây dựng. Theo định nghĩa thì nếu có cạnh nối thì u sẽ đứng trước v trong T. Điều này có nghĩa là với mỗi người u, tất cả những người cấp dưới mà u muốn đều nằm sau u trong T.

Cách xây dựng cây phân cấp đơn giản nhất là xây dựng theo thứ tự T:

làm sếp tổng
Sếp của là
Sếp của là
…
Sếp của là

Cuối cùng mảng boss chính là kết quả cần xuất ra màn hình.

Độ phức tạp: . với là số người trong công ty và là số người cấp dưới mà người i chọn.

Code

#include <bits/stdc++.h>
using namespace std;

void dfs(int u, const vector<vector<int>> &graph, vector<bool> &visited, vector<int> &result) {
    visited[u] = true;
    for (int i = 0; i < graph[u].size(); i++) {
        int v = graph[u][i];
        if (!visited[v]) {
            dfs(v, graph, visited, result);
        }
    }
    result.push_back(u);
}

vector<int> topologicalSort(const vector<vector<int>> &graph) {
    int V = graph.size();
    vector<int> result;
    result.reserve(V);
    vector<bool> visited(V, false);

    for (int i = 0; i < V; i++) {
        if (!visited[i]) {
            dfs(i, graph, visited, result);
        }
    }
    std::reverse(result.begin(), result.end());
    return result;
}

int main() {
    int n, k;
    scanf("%d%d", &n, &k);
    vector<vector<int>> graph(n);
    for (int u = 0; u < k; ++u) {
        int w, v;
        scanf("%d", &w);
        while (w--) {
            scanf("%d", &v);
            graph[u].push_back(v - 1);
        }
    }

    auto topo_order = topologicalSort(graph);
    vector<int> boss(n);
    boss[topo_order[0]] = -1;
    for (int i = 1; i < n; ++i) {
        boss[topo_order[i]] = topo_order[i - 1];
    }
    
    for (int i = 0; i < n; ++i) {
        printf("%d\n", boss[i] + 1);
    }
}

TOPOSORT - Topological Sorting

2022-04-08T00:00:00+00:00

Problem

Sandro is a well organised person. Every day he makes a list of things which need to be done and enumerates them from 1 to n. However, some things need to be done before others. In this task you have to find out whether Sandro can solve all his duties and if so, print the correct order.

Input

In the first line you are given an integer n and m (1<=n<=10000, 1<=m<=1000000). On the next m lines there are two distinct integers x and y, (1<=x,y<=10000) describing that job x needs to be done before job y.

Output

Print “Sandro fails.” if Sandro cannot complete all his duties on the list. If there is a solution print the correct ordering, the jobs to be done separated by a whitespace. If there are multiple solutions print the one, whose first number is smallest, if there are still multiple solutions, print the one whose second number is smallest, and so on.

Example 1

Input:
9
4
2
2
3
2
2
5
2
6
Output:
4 3 5 7 8 2 6 

Solution

Ta xem N công việc là N đỉnh của đồ thị, còn M cặp công việc là M cạnh của đồ thị có hướng. Vì một số công việc sẽ thực hiện trước một vài công việc khác nên ta sẽ dùng Topological Sort để giải quyết bài toán này. Nhận xét :

Sandro sẽ không thực hiện được tất cả công việc nếu xuất hiện chu trình trong đồ thị. Do yêu cầu đặc biệt nếu có nhiều công việc có cùng thứ tự thực hiện thì ta chọn công việc có số nhỏ nhất. Vậy để luôn chọn được công việc có số thứ tự nhỏ nhất thực hiện lúc đó ta cần cấu trúc dữ liệu thích hợp, ở đây ta chọn thuật toán Kahn và min heap để lưu các đỉnh có thể được chọn tiếp. Vậy với thuật toán Kahn, ta cần danh sách đỉnh kề, mảng đếm số bậc vào còn lại của mỗi đỉnh và min heap các đỉnh có bậc vào hiện tại bằng 0.

Ta bắt đầu với việc xác định các đỉnh có số bậc vào bằng 0 và cho vào heap. Khi mà heap vẫn còn các đỉnh chưa được xét, ta chọn đỉnh đầu tiên trong heap sẽ là đỉnh tiếp theo được in ra. Đồng thời, khi đỉnh này được chọn ta giảm đi số bậc vào của các đỉnh kề từ đỉnh này. Nếu có bất kì đỉnh kề nào có bậc vào bằng 00 thì ta cho đỉnh này vào heap. Kết quả cuối cùng sau khi kết thúc thuật Kahn sẽ là danh sách các công việc cần thực hiện theo thứ tự thỏa mãn. Độ phức tạp: với N là số công việc cần thực hiện, M là số cặp công việc phải thực hiện theo đúng thứ tự.

Code

#include <iostream>
#include <vector>
#include <queue>
#include <set>

using namespace std;

vector<int> topoSort(vector< vector<int> > &adj, vector<int> &indegree){
    int n = indegree.size();
    priority_queue<int, vector<int>, greater<int> > zero_indegree;
    vector<int> topoSorted;
    // vector<bool> avail(n, true);

    for (int i = 0; i < indegree.size(); i++)
        if (indegree[i] == 0){
            zero_indegree.push(i);
            // avail[i] = false;
        }


    while (!zero_indegree.empty()){
        int u = zero_indegree.top();
        zero_indegree.pop();

        topoSorted.push_back(u);

        for (int i = 0;i < adj[u].size(); i++){
            int v = adj[u][i];
            indegree[v] --;
            if (indegree[v] == 0){
                zero_indegree.push(v);
            }
        }
    }

    
    return topoSorted;
}

int main(){
    // n: number of vertices
    // m: number of edges
    int n, m, u, v;
    vector< vector<int> > adj;
    vector<int> indegree;
    scanf("%d %d", &n, &m);
    adj.resize(n);
    indegree.assign(n, 0);
    for (int i = 0; i < m; i++){
        scanf("%d %d", &u, &v);
        adj[u - 1].push_back(v - 1);
        indegree[v - 1] ++;
    }
    
    vector<int> res = topoSort(adj, indegree);
    if (res.size() < n){
        printf("Sandro fails.\n");
        return 0;
    }

    for (int i = 0; i < res.size(); i++)
        printf("%d ", res[i] + 1);
    printf("\n");

    return 0;
}

[PYTORCH] BÀI 1: TENSOR

2021-06-24T00:00:00+00:00

1. Tensor là gì?

Đa số các thuật toán ML, DL chỉ xử lí được data dưới dạng số thực nên các dữ liệu đưa vào mô hình phải được chuyển về dạng số.

Tensor là đơn vị tính cơ bản trong deep learning, nó chứa dữ liệu và dữ liệu này thường là numeric. Đó cũng là nguồn cảm hứng mà google đặt tên cho thư viện deep learning nổi tiếng của mình là tensorflow ( Các tensor được tính toán theo(flow) computation graph).

Các dạng tensor thường gặp

1. Scalars (0D tensor) : tensor chứa duy nhất một number. Vd : 0,1,2,3

2. Vector (1D tensor) : một array number người ta gọi là vector hay 1D tensor. Vd : [1,2,3],[,3,1,2]

3. Matrix (2D tensor) : 1 array vector được gọi là matrix, hay 2D tensor nó giống như 1 bảng tính gồm các column và row . vd : [[2,1,1],[1,2,3],[1,2,3]]

4. Higher-dimension tensor (3D tensor) : Tưởng tượng như là 1 khối (cubic) hình hộp chữ nhật chứa các number. Nó được tạo nên từ nhiều matrix (2D tensor).

Các thuộc tính của tensor

1. Number of axis : số axis của tensor, hiểu đơn giản là số chiều không gian chứa tensor, vd : scalars 0 axis, vector 1 axis, matrix 2 axis…

2. Shape : Số chiều tensor trên mỗi axis . Vd : matrix có shape (5,10) gồm 5 row (axis=0) và 10 column (axis=1)

3. Data type : thường gọi là dtype trong python, kiểu dữ liệu lưu trữ mỗi tensor thông thường là float32.

Một số tensor data thường sử dụng trong deep learning :

Ảnh màu (rgb) được biểu diễn dưới dạng 1 tensor 3 chiều

Hay dữ liệu dạng chữ (tôi, yêu, hoa,..) cũng được chuyển về dạng vector trước khi cho vào các mô hình, ví dụ như mô hình word2vec.

Hay các bảng số liệu được ghi nhận dưới cấu trúc (sample, feature) thường được sử dụng để dự đoán trong các bài toán ML

2.Numpy arrays vs PyTorch tensors

Numpy là thư viện Python giúp lưu trữ và xử lý các phép tính với dữ liệu dạng số thực. Tuy nhiên, Numpy được viết bằng C/C++ nên tốc độ xử lý và tính toán rất nhanh.

PyTorch tensors có chức năng và mục đích tương tự Numpy arrays nhưng có một vài ưu điểm hơn:

Thực hiện tính toán nhanh trên GPU, vì các mô hình DL muốn tăng tốc thì cần xử lý qua các GPU nên tensors hỗ trợ tính toán nhanh trên GPU rất cần thiết.
Các Pytorch tensors có thể lưu lại được đồ thị tính toán nên có thể tính đạo hàm nhanh chóng, phục vụ cho thuật toán backpropagation trong Deep Learning.

3. Torch Tensors

Số thực là dữ liệu 0D, vector 1D, ma trận 2D còn dữ liệu từ 3D trở đi được gọi là tensor.

3.1 Vector

Để truy cập đến phần tử của vector và sửa phần tử của vector ta dùng chỉ số index. Index sẽ được đánh bắt đầu từ 0 đến phần tử cuối cùng của vector.

Để truy cập phần tử cuối cùng

x[-1] # Tương đương với x[x.shape[0] - 1], lấy phần tử cuối cùng

Vậy có cách nào lấy được 1 số phần tử trong vector, ví dụ 3 phần tử cuối cùng, các phần tử index chẵn,..? Có, slicing sẽ giúp mọi người.

Nếu mọi người không truyền gì thì mặc định start=0, stop=x.shape[0] và step=1. Ý tưởng slicing là sẽ lấy từ phần tử index start đến index (stop – 1) với bước nhảy là step.

x = x[:] = x[::] = x[0:x.shape[0]:1] # lấy tất các phần tử trong x

Như ví dụ x[1:5:2] ở trên thì mình sẽ lấy phần tử đầu ở index 1, sau đó lấy phần tử ở index 3, tuy nhiên sẽ không lấy phần tử ở index 5 vì mình chỉ lấy từ index start đến (stop – 1) hay từ 1 -> 4.

x[1:5:2] # output: [2, 4]

Torch tensors không hỗ trợ step âm như python list.

3.1 Ma trận

Ví dụ muốn ấy kích thước ta có thể dùng

A.shape # torch.Size([3, 2])
A.shape[0] # 3

A[1:, :1] # Tương đương A[1:A.shape[0]:1, 0:1:1]

3.3 Tensor 3D

Với tensor 3D thì thuộc tính shape sẽ cho ra 3 giá trị, tương ứng độ sâu (depth), số hàng, số cột. Để truy cập phần tử thì mình cũng phải chỉ rõ index của depth, hàng và cột. Tương tự để slicing thì mình cũng phải slicing trên cả 3 chiều.

4. Torch Properties

Gán giá trị cho tensor và torch sẽ tự động gán dtype bằng với dtype của giá trị có kiểu rộng hơn trong tensor.

points = torch.tensor([7, 8, 10, 6.5])
print(points.dtype) # output: torch.float32

Tuy nhiên mình cũng có thể khởi tạo kiểu dữ liệu cho tensor luôn

points = torch.tensor([7, 8, 10, 6])
print(points.dtype) # output: torch.int64

# Gán kiểu dữ liệu cho tensor
points = torch.tensor([7, 8, 10, 6], dtype=torch.short)
print(points.dtype) # output: torch.int16

Hoặc mình cũng có thể chuyển kiểu dữ liệu của tensor đã được khai báo

points = torch.tensor([7, 8, 10, 6]).short()
points = torch.tensor([7, 8, 10, 6]).to(dtype=torch.short)

Hàm to(dtype=…) sẽ kiểm tra kiểu dữ liệu của tensor và chuyển sang kiểu dữ liệu mới nếu cần thiết. Phần dưới mình sẽ dùng hàm to() để chuyển tensor từ CPU sang GPU.

5. Torch transpose

Hàm torch transpose(input, dim0, dim1) : để tìm ma trận chuyển vị của tensor input (Cụ thể chuyển chiều dim0 với dim1)

Với ma trận 2D

Với ma trận 3D

CÁC PHÉP TÍNH KHÁC CÁC BẠN CÓ THỂ THAM KHẢO TẠI ĐÂY

6. Torch GPU

Torch storage thì mặc định sẽ lưu ở CPU, tuy nhiên Torch cho phép tensor lưu ở GPU để tính toán song song cũng như tăng tốc độ xử lý.

Nếu 1 tensor được lưu ở GPU, thì các phép tính toán sẽ được thực hiện ở GPU.

Để khởi tạo 1 tensor và lưu trên gpu thì mình dùng thuộc tính device.

x_gpu = torch.tensor([[4.0, 1.0], [5.0, 3.0], [2.0, 1.0]], device='cuda')

Hoặc mình có thể copy 1 tensor từ CPU sang GPU

x = torch.tensor([[4.0, 1.0], [5.0, 3.0], [2.0, 1.0]])
x_gpu = x.to(device='cuda')

Mỗi tensor chỉ được lưu trên 1 GPU nhất định nên nếu có nhiều GPU thì phải chỉ rõ lưu trên GPU nào, index GPU cũng bắt đầu từ 0.

x_gpu = x.to(device='cuda:0')
# hoặc
x_gpu = x.cuda(0)
x_gpu = x_gpu + 4 # Thực hiện phép tính trên GPU

Để chuyển ngược lại từ GPU về CPU thì mình dùng

x_cpu = x_gpu.to(device='cpu')
# hoặc
x_cpu = x_gpu.cpu()

7. Torch Tensor to Numpy Array

Torch cho phép chuyển tensor sang Numpy array. Các thuộc tính về size, shape sẽ được giữ nguyên, type sẽ chuyển từ Torch sang Numpy.

x = torch.tensor([1,2,3])
x_np = x.numpy()

Nếu tensor được lưu trên CPU, Torch tensor và Numpy array sẽ dùng chung vùng nhớ, nên thay đổi giá trị ở 1 biến thì giá trị biến còn lại cũng thay đổi.

x[1] = 0
print(x) # output: [1, 0, 3]
print(x_np) # output: [1, 0, 3]

Nếu tensor được lưu trên GPU thì mọi người sẽ không thể chuyển trực tiếp tensor sang Numpy array được, mà mình cần copy nội dung của tensor sang CPU trước rồi mới chuyển sang Numpy array. Do đó 2 biến trên gpu và np không dùng chung vùng nhớ và sửa 1 biến không ảnh hưởng biến còn lại.

x_gpu = torch.tensor([1, 2, 3], device='cuda')
x_np = x_gpu.numpy() # Error
x_np = x_gpu.cpu().numpy() # ok
x_gpu[1] = 0 
print(x_gpu) # output: [1, 0, 3]
print(x_np) # output: [1, 2, 3]

Tương tự, mình có thể chuyển Numpy array sang Torch tensor. Torch tensor sẽ lưu ở CPU và 2 biến trên np và cpu sẽ dùng chung vùng nhớ.

x_np = np.array([1, 2, 3])
x_cpu = torch.from_numpy(x_np)

[ML] BÀI 0: CÁC BƯỚC CƠ BẢN ĐỂ GIẢI QUYẾT MỘT BÀI TOÁN MACHINE LEARNING

2021-06-24T00:00:00+00:00

1. THU THẬP DỮ LIỆU (GET DATA)

Bản thân mình là một đứa ngô nghê về việc phải crawl dữ liệu về như thế nào, làm sao để đọc được dữ liệu nên mình phải đứng ở giai đoạn này khá lâu và cũng nhiều lần suýt từ bỏ. Chắc hẳn rất buồn cười nhỉ? Vì đây chỉ là bước gửi xe mà thôi.

Cũng dễ hiểu thôi mình muốn máy học thì mình phải cho nó dữ liệu để học chứ. Tất nhiên data càng lớn thì càng tốt(nguồn học càng nhiều càng biết rộng hiểu sâu).

Để thực hành các kỹ năng ML, chúng ta có thể tận dụng những nguồn dữ liệu (dataset) dồi dào từ các nguồn nổi tiếng như Kaggle (Kaggle: Your Home for Data Science), UCI (UCI Machine Learning Repository).

THỰC HÀNH DOWNLOAD DATASET TẠI ĐÂY. Trong bài thực hành trên mình thực hiện trên nền tảng của google colab.

2. TIỀN XỬ LÍ DỮ LIỆU (PRE-PROCESSING)

Khi có được dữ liệu, chúng ta cần phải tiền xử lý (pre-processing) trước khi tiến hành training model. Đây là giai đoạn rất quan trọng, nó giống như việc chúng ta cần phải cắt, gọt, rửa rau, thịt, cá trước khi đưa vào nồi để nấu. Bước đầu tiên để tiền xử lý dữ liệu chúng ta cần phải khám phá và phân tích dữ liệu – Explory Data Analysis (EDA).

Trong EDA chúng ta sẽ khám phá và phân tích những thông tin về tập dữ liệu (dataset) như số lượng cá thể (instance), số biến (variable), phân phối (distribution) giá trị của các biến, mối quan hệ giữa các biến không phụ thuộc (independent variable) và biến phụ thuộc (dependent variable) cũng như kiểm tra các vấn đề như dữ liệu trống (missing values), mất cân bằng dữ liệu (imbalanced dataset), kiểm tra các cá thể ngoại biên (outlier). Để có thể nhìn nhận một cách trực quan các vấn đề, khi thực hiện EDA chúng ta sẽ sử dũng các biểu đồ như biểu đồ cột, hộp (box-plot), phân phối (distribution).

3. HUẤN LUYỆN DỮ LIỆU

Khi dữ liệu đã được thu thập và tiền xử lý (pre-process) xong, giờ chúng ta sẽ bắt đầu tiến hành huấn luyện (training) cho ML model. Chúng ta sẽ phải lựa chọn ML model phù hợp với yêu cầu của bài toán. Với bài toán regression chúng ta có thể lựa chọn các model: Linear Regression, Polynomial Regression, Decision Tree (DT), Support Vector Machine (SVM), Artificial Neural Network (ANN). Với bài toán classification chúng ta có thể lựa chọn các model: Naive Bayes, Logistic Regression, DT, SVM, ANN. Để có thể lựa chọn ML model chính xác chúng ta cần suy xét về phân phối (distribution) của các cá thể (instance) trong tập dữ liệu (dataset).

Ở hình trên mô tả một tập dữ liệu (dataset) có 2 nhóm (class) được biểu thị bằng các ký hiệu vuông và cộng. ML model sau quá trình huấn luyện sẽ cho ra một đường phân định (decision boundary) giúp phân loại các cá thể (instance) trong tập dữ liệu (dataset). Trong trường hợp đơn giản như ở hình đầu tiên, đường phân định (decision boundary) của chúng ta chỉ cần là một đường thẳng tuyến tính (linear) đã có thể phân loại được hai nhóm (class) một cách chính xác. Nhưng ở hình ở giữa, mọi thứ đã phức tạp hơn một chút, chúng ta phải sử dụng tới 2 đường thẳng tuyến tính (linear) kết hợp mới phân định được các nhóm. Ở hình cuối cùng mọi thứ trở nên rất phức tạp, đường phân định (decision boundary) là một đường phi tuyến (nonlinear) để sinh ra được đường phân định (decision boundary) này cần phải sử dụng các nonlinear ML model.

Để thuận tiện cho quá trình training, tập dữ liệu (dataset) sẽ được sẽ được chia ta thành 3 tập nhỏ hơn: tập dữ liệu huấn luyện (training set), tập dữ liệu xác nhận (validation set) và tập dữ liệu kiểm thử (testing set). Trong quá trình huấn luyện, ML model sẽ ‘học’ trên tập dữ liệu huấn luyện (training set) và sau đó kiểm tra trên tập dữ liệu xác nhận (validation set). Quá trình huấn luyện ML model cần đảm bảo sao cho ML model không bị thiếu vừa vặn (underfit) cũng như quá vừa vặn (overfit). Việc nhận biệt sẽ dựa vào chỉ số mất mát của việc huấn luyện (training loss) và chỉ số mất mát của việc xác nhận (validation loss). Chỉ số mất mát (loss) này sẽ cho biết lỗi (error) của ML model trong việc dự đoán. Nếu chỉ số mất mát ở cả quá trình huấn luyện (training loss) và xác nhận (validation loss) đều cao, đó là dấu hiệu của việc thiếu vừa vặn (underfit), lúc này chúng ta cần tiến hành huấn luyện (tranining) thêm cho ML model. Nếu chỉ số mất mát của việc huấn luyện (training loss) là thấp trong khi đó chỉ số mất mát của việc xác nhận (validation loss) lại rất cao, điều đó chứng tỏ ML model đã có dấu hiệu của việc quá vừa vặn (overfit) và cần dừng việc huấn luyện (training) cho ML model.

4. KIỂM THỬ

Sau khi đã trải qua quá trình huấn luyện (training), model giờ có thể đưa ra dự đoán kết quả trên tập dữ liệu kiểm thử (testing set) và so sánh với giá trị thực của chúng. Để đánh giá hiệu năng (performance) của ML model một trong cách phổ biến đó là dựa vào ma trận nhầm lẫn (confusion matrix).

Ma trận nhầm lẫn sẽ giúp chúng ta biết được có bao nhiêu cá thể (instance) được ML model dự đoán là khớp (match) với nhãn (label) của chúng và bao nhiêu bị dự đoán sai. Như hình trên chúng ta có 2 nhóm (class) 1 và 0, chúng ta sẽ ngầm hiểu nhóm 1 là dương tính (Positive) và nhóm 0 là âm tính (Negative). Từ đó sẽ có 4 giá trị trong ma trận nhầm lẫn (confusion matrix).

True Positives (TPs): Số cá thể (instance) được dự đoán là dương tính (Positive) và nhãn (label) của chúng cũng là dương tính (Positive) True Negatives (TNs): Số cá thể (instance) được dự đoán là âm tính (Negative) và nhãn (label) của chúng cũng là âm tính (Negative) False Positives (FPs): Số cá thể (instance) được dự đoán là dương tính (Positive) nhưng nhãn (label) của chúng lại là âm tính (Negative) False Negatives (FNs): Số cá thể (instance) được dự đoán là âm tính (Negative) nhưng nhãn (label) của chúng lại là dương tính (Positive) Từ các con số TPs, TNs, FPs, FNs chúng ta sẽ tính được các chỉ số sau: Độ chính xác (accuracy) sẽ cho chúng ta biết tỉ lệ cá thể (instance) được dự đoán chính xác, nếu để ý chúng ta sẽ thấy tử số của accuracy chính là tổng giá trị ở các ô nằm trên đường chéo (diagonal) của ma trận nhầm lẫn (confusion matrix). Tuy nhiên độ chính xác (accuracy) đôi khi không nói lên hết được vấn đề, đặc biệt là nếu tập dữ liệu kiểm thử (testing set) có hiện tượng mất cân bằng (imbalanced dataset). Ví dụ trong bài toán phân loại gian lận (fraud) thẻ tín dụng, tập dữ liệu kiểm thử (testing dataset) của chúng ta có 100 cá thể (instance), trong đó 99 cá thể (instance) thuộc nhóm không gian lận và chỉ có 1 cá thể (instance) thuộc nhóm gian lận. ML model của chúng ta dự đoán 100 cá thể này đều thuộc nhóm không gian lận và theo cách tính độ chính xác (accuracy) sẽ là 0.99 hay 99%, wow một con số rất hoàn hảo đúng không, nhưng bạn có thấy có gì đó sai sai ?

Vì lẽ đó mà chúng ta cần tính thêm các chỉ số như độ bao phủ (recall), độ chuẩn xác (precision). Độ bao phủ (recall) sẽ cho chúng ta biết trong tổng số các cá thể (instance) dương tính (positive) tỉ lệ được dự đoán chính xác là dương tính (positive) là bao nhiêu. Độ chuẩn xác (precision) sẽ cho chúng ta biết trong tổng số các cá thể (instance) được dự đoán là dương tính (positive) tỉ lệ các cá thể (instance) thực sự là dương tính (positive) là bao nhiêu. F1-score là chỉ số tổng hợp cân bằng giữa độ bao phủ (recall) và độ chuẩn xác (precision) . Dựa vào ma trận nhầm lẫn trên chúng ta có thể thấy, độ bao phủ (recall), độ chuẩn xác (precision) và F1-score của ML model sẽ đều là 0%. Như vậy độ bao phủ (recall) và độ chuẩn xác (precision) cho chúng ta thêm những cái nhìn toàn diện hơn về hiệu năng (peformance) của ML model.

Ngoài việc sử dụng ma trận nhầm lẫn (confusion matrix) và tính các chỉ số trên, một phương pháp khác để kiểm tra hiệu năng hiệu năng (peformance) của ML model cũng khá phổ biến đó là dùng chỉ số AUC. AUC là viết tắt của Area Under Curve, hay diện tích dưới vòng cung. Để tính được AUC, chúng ta cần vẽ ra được vòng cung ROC (ROC curve), ROC là viết tắt của receiver operating characteristic curve. Vòng cung ROC sẽ cho chúng ta biết sự thay đổi của tỉ lệ dương tính đúng (True Positive Rate) và tỉ lệ dương tính sai (False Positive Rate) khi ngưỡng (threshold) của ML model thay đổi. Ngưỡng (threshold) của ML model thông thường sẽ là 0.5, khi output của ML model lớn hơn ngưỡng (threshold) thì sẽ được phân loại vào nhóm dương tính (Positive class) nếu nhỏ hơn ngưỡng (threshold) thì sẽ phân loại vào nhóm âm tính (Negative class). Chúng ta sẽ hiểu rõ hơn về ngưỡng khi đi sâu vào từng ML model.

Vòng cung ROC ở hình trên chính là đường xanh kẻ gạch, và AUC sẽ là diện tích bao bởi hình cung đó. AUC sẽ giao động từ 0 cho đến 1, càng gần 1 thì ML model có hiệu năng (performance) càng tốt.

5. MỘT SỐ KHÁI NIỆM CƠ BẢN KHI TÌM HIỂU MACHINE LEARNING

Có những khái niệm cơ bản cần nắm khi tìm hiểu về Machine learning.

Data: dữ liệu đầu vào.

Label: đầu ra (hay còn gọi là nhãn).

Model: được tạo ra từ data và label, sử dụng model để dự đoán những data khác.

Thư viện numpy: một thư viện toán học phổ biến và mạnh mẽ của Python.

Thư viện tensorflow: thư viện mã nguồn mở hỗ trợ cho việc tính toán số học dựa trên biểu đồ mô tả sự thay đổi của dữ liệu.

Loss: hàm đánh giá độ chính xác của giá trị dự đoán.

Optimizer: hàm đưa ra giá trị dự đoán sao cho giá trị của hàm loss là nhỏ nhất.

Epochs: Số lần lặp khi train model.

Neural network: là một hệ thống tính toán lấy cảm hứng từ sự hoạt động của các neuron trong hệ thần kinh.

[ML] BÀI 1: TIỀN XỬ LÍ DỮ LIỆU

2021-06-24T00:00:00+00:00

Tiền xử lý dữ liệu là một bước rất quan trọng trong việc giải quyết bất kỳ vấn đề nào trong lĩnh vực Học Máy. Hầu hết các bộ dữ liệu được sử dụng trong các vấn đề liên quan đến Học Máy cần được xử lý, làm sạch và biến đổi trước khi một thuật toán Học Máy có thể được huấn luyện trên những bộ dữ liệu này. Các kỹ thuật tiền xử lý dữ liệu phổ biến hiện nay bao gồm: xử lý dữ liệu bị khuyết (missing data), mã hóa các biến nhóm (encoding categorical variables), chuẩn hóa dữ liệu (standardizing data), co giãn dữ liệu (scaling data),… Những kỹ thuật này tương đối dễ hiểu nhưng sẽ có nhiều vấn đề phát sinh khi chúng ta áp dụng vào các dữ liệu thực tế. Bởi lẽ các bộ dữ liệu ứng với các bài toán trong thực tế rất khác nhau và mỗi bài toàn thì đối mặt với những thách thức khác nhau về mặt dữ liệu. Trong bài viết này, mình sẽ cùng nhau tìm hiểu về các kỹ thuật tiền xử lý dữ liệu và cách áp dụng chúng trong các bài toán thực tế.

1. MISSING DATA

1.1 Phân loại

Dữ liệu bị thiếu được chia ra làm ba dạng:

Khuyết ngẫn nhiên (Missing at Random – MAR): sự khuyết dữ liệu của đặc trưng này có điều kiện hoặc phụ thuộc vào một hoặc một vài các đặc trưng khác.
Khuyết hoàn toàn ngẫu nhiên (Missing Completely at Random – MCAR): Không có mối quan hệ nào giữa đặc trưng bị khuyết với các giá trị giả định hoặc các ràng buộc trên các đặc trưng khác. Ở đây, tập dữ liệu bị khuyết chỉ là một tập con ngẫu nhiên của bộ dữ liệu.
Khuyết không ngẫu nhiên (Missing not at Random – MNAR): Khuyết không ngẫu nhiên xảy ra khi một điểm dữ liệu bị khuyết phụ thuộc cả vào các giá trị giả định (ví dụ như những người giàu có thường không tiết lộ mức thu nhập của họ khi bạn khảo sát) và các giá trị của các đặc trưng khác (ví dụ như khi bạn muốn khảo sát tuổi của một người, mà người đó là con gái thì thường là bạn sẽ không nhận được câu trả lời từ họ).

Trong hai trường hợp đầu tiên, xóa đi các điểm dữ liệu bị thiếu dựa vào số lần xuất hiện của chúng là chấp nhận được. Nhưng trong trường hợp thứ ba, việc xóa đi các quan sát bị khuyết giá trị có thể khiến cho mô hình bị ảnh hưởng. Do đó, chúng ta cần rất lưu tâm trước khi xóa đi những điểm dữ liệu này.

Ngoài ra, chúng ta cũng cần hiểu rằng cách bỏ qua (không xử lý gì) những điểm dữ liệu bị khuyết này là cách không nên áp dụng, nó có thể rất tai hại nếu như bạn không xử lý đúng đắn khi phân tích dữ liệu của bạn. Bởi lẽ dữ liệu bị khuyết sẽ khiến bạn đưa ra những kết luận sai lầm về bộ dữ liệu của bạn khi bạn nhìn vào các giá trị sai về tổng, trung bình hoặc phân phối của bộ dữ liệu.

1.2 Xóa dữ liệu khuyết

Nói thẳng ra thì các gì mập mờ cũng không tốt. Ví dụ như TRÊN TÌNH BẠN DƯỚI TÌNH YÊU. Ủa là cái gì? Rõ ràng đi chứ. Cái gì mập mờ quá mình bỏ đi để không lại sai. Nhưng trong ML data càng nhiều là càng tốt nhưng nếu xóa đi quá nhiều thì tiếc lắm, mà không xóa thì lại dễ dẫn đến sai. Vậy chúng ta phải làm sao?

Listwise

Phương pháp xóa dữ liệu listwise xóa đi tất cả các điểm dữ liệu có một hoặc một vài giá trị đặc trưng bị khuyết. Phương pháp này thường chỉ được sử dụng khi bạn đang tiến hành một nghiên cứu để so sánh với một phương pháp xử lý khác. Vì trong thực tế thì phương pháp này đem lại nhiều bất lợi. Bởi lẽ dữ liệu khuyết hoàn toàn ngẫu nhiên MCAR thường hiếm gặp, do đó, phương pháp này nhiều khả năng tạo ra các tham số và ước lượng bị lệch cho mô hình.

Pairwise

Phương pháp xóa pairwise cố gắng tối thiểu hóa sự mất mát khi sử dụng phương pháp xóa listwise. Để hiểu đơn giản về phương pháp xóa pairwise, ta hãy liên tưởng đến ma trận tương quan. Mỗi giá trị tương quan thể hiện mức độ liên kết giữa hai biến (đặc trưng). Với mỗi cặp biến mà dữ liệu không bị khuyết, hệ số tương quan sẽ được đưa vào tính toán. Do đó, phương pháp xóa pairwise tối đa hóa các dữ liệu có sẵn bởi một phân tích cơ sở. Một thế mạnh của phương pháp này là nó làm tăng sức mạnh và tính hiệu quả của các phân tích mà bạn muốn thực hiện. Mặc dù phương pháp này được khuyến nghị dùng nhiều hơn là phương pháp xóa listwise, nhưng nó cũng sử dụng giả thiết rằng dữ liệu bị khuyết thuộc dạng khuyết hoàn toàn ngẫu nhiên MCAR.

Xóa nguyên cột luôn nếu cột không quan trọng

CÁC CÚ PHÁP CỦA CÁC LỆNH XÓA CỤ THỂ Ở LINK NÀY!

1.3 Điền khuyến dữ liệu

Với một đặc trưng dữ liệu dạng số, có rất nhiều lựa chọn mà chúng ta có thể xem xét khi điền vào một giá trị bị khuyết, ví dụ:

Một giá trị hằng có ý nghĩa trong miền xác định của dữ liệu, ví dụ như 0.
Một giá trị của một đặc trưng từ một mẫu dữ liệu ngẫu nhiên trong tập dữ liệu.
Các giá trị thống kê cơ bản như giá trị trung bình, giá trị trung vị hay giá trị mốt (mode) của cột.
Một giá trị được ước lượng từ một mô hình dự đoán khác.

Cụ thể

Thay thế những dữ liệu missing với các giá trị: -1, -99, -999

Với những features có tính liên tục thì việc chúng ta thay thế những giá trị missing bằng các giá trị -1, -99, -999, … sẽ giúp cho những mô hình cây như (RF - Random Forest) hoạt động tốt hơn bởi khi thay thế bằng những giá trị ở trên thì các mô hình này có thể giải thích cho việc thiếu dữ liệu thông qua việc encoding này. Nhược điểm của nó làm giải hiệu suất của mô hình tuyến tính sẽ bị ảnh hưởng.

dataset.Fare.fillna(-99,inplace=True)

Thay thế bằng giá trị mean, midian, mode

Với phương pháp này chúng ta điền những giá trị bị thiếu bằng giá trị mean hay median của một vài biến nếu biến liên tục và điền mode nếu biến là biến categorical. Tuy phương pháp này nhanh nhưng lại làm giảm phương sai của dữ liệu. Bên cạnh đó khi thực hiện cách này thì nó phù hợp với mô hình tuyến tính đơn giản và NN. Nhưng đối với những bài toán dựa trên tree thì có vẻ không phù hợp lắm. Ví dụ code:

dataset.Age.fillna(dataset.Age.mean(),inplace=True)

Hoặc

dataset.Age.fillna(dataset.Age.median(),inplace=True)

Hoặc với biến categorical chúng ta sử dụng mode:

dataset.Cabin.fillna(dataset.Cabin.mode()[0],inplace=True)

Sử dụng mô hình dự đoán cho data impution

Ở đây chúng ta có thể sử dụng K-NN, Linear-Regression để dự đoán các giá trị còn thiếu:

[ML] BÀI 4: LOGISTIC PREGRESSION

2021-06-24T00:00:00+00:00

Hôm nay chúng ta sẽ tìm hiểu về Logistic Regression model, đây là một linear model giúp giải quyết các bài toán classification ví dụ như phân loại ốm hay khỏe mạnh, gian lận hay không gian lận,..

1. Đường phân định - Decision boundary

Trong bài toán phân loại, chúng ta cần Logistic Regression tạo ra một đường phân định (decision boundary) giúp phân loại các nhóm (class) của dữ liệu như hình mô tả dưới đây:

Hàm số tuyến tính (linear function) chúng ta mong muốn sẽ là:

Score = w0 + w1x

Sự khác biệt của hàm số tuyến tính (linear function) trên với hàm số của Linear Regression nằm ở bên vế trái, giá trị của biến không phụ thuộc (dependent variable) y giờ được thay bằng score, vậy score này là gì ? Score này được kỳ vọng sẽ giúp chúng phân loại cá thể (instance) vào các nhóm (class). Ở đây chúng ta sẽ để ý đến 2 thứ:

Dấu của score => giúp phân biệt nhóm (class). Giả sử chúng ta có 2 nhóm (class) là -1 và 1. Nếu dấu của score là âm thì nó sẽ thuộc về nhóm (class) -1 và dấu là dương thì nó sẽ thuộc về nhóm (class) 1.
Độ lớn của score => xác định vị trí của cá thể so với đường phân định (decision boundary) các thể càng ở xa càng chắc chắn điểm đó thuộc về nhóm (class) đó. Các cá thế (instance) ở càng gần đường phân định, tương ứng với score bằng 0 sẽ có thể thuộc về 1 trong 2 nhóm (class), và những điểm này là những điểm khá mơ hồ (confuse), ở hình trên chúng ta thấy có một vài cá thể (instance) thuộc nhóm (class) xanh nhưng thuộc khu vực của nhóm (class) đỏ và ngược lại.

2. Hàm Logistic - Logistic function

Tuy nhiên score không thể làm chúng ta hài lòng, điều chúng ta muốn là xác xuất (probability) của cá thể (instance) này thuộc về nhóm (class) là bao nhiêu phần trăm. Do đó, score sẽ được đưa vào logistic function, hay tên gọi khác đó là softmax của score. Softmax trong trường hợp chỉ có 2 nhóm (class) - binary classification còn được gọi là Sigmoid. Vậy hàm số Sigmoid (Sigmoid function) có tác dụng gì ?

Sigmoid sẽ chuyển đổi score chúng ta có được ở trên, thành xác suất (probability) của cá thể đó thuộc nhóm (class) 1 .P(y = 1| x_{i}, w). Trong đó , x_{i}, w chính là biểu thị của hàm số tuyến tính w0 + w1x , ký hiệu trên được hiểu là xác xuất của cá thể (instance) thuộc nhóm (class) 1 với hàm số tuyến tính (linear function) đã cho (given). Thông thường chúng ta sẽ đặt 0.5 là ngưỡng (Threshold) như đã đề cập ở bài số 3, nếu xác xuất (probability) lớn hơn 0.5 chúng ta sẽ quy định cá thể (instance) thuộc nhóm class (1), nếu nhỏ hơn sẽ thuộc nhóm (class) 0. Để hình dùng cụ thể hơn về cách Sigmoid chuyển đổi Score thành xác suất (probability) chúng ta hãy xem công thức của hàm số Sigmoid, cũng như đồ thị của nó.

Có thể thấy đặc chưng của Sigmoid function đó là bão hòa (saturate) ở 0 và 1 khi các giá trị của score càng lớn hoặc càng nhỏ, giúp chuyển đổi score ra xác xuất (probability) mà chúng ta mong muốn.

3. àm mất mát - Loss function

Đối với các bài toán phân loại (classification), hàm mất mát (loss function) thường được sử dụng đó là cross entropy loss.

Trong đó n là số cá thể (instance) của tập dữ liệu

Để hiểu cách hoạt động của cross entropy loss, chúng ta hãy cùng xét trường hợp sau. Chúng ta có cá thể (instance) thuộc nhóm (class) 1, tương ứng với bằng 1, tuy nhiên Logistic regression model của chúng ta lại dự đoán bằng 0, khi đó tương ứng với và có giá trị âm vô cùng, loss của chúng ta sẽ rất lớn, chứng tỏ model đang dự đoán sai. Điều tương tự sẽ xảy ra trong trường hợp cá thể thuộc nhóm (class) 0, nhưng lại được dự đoán với xác suất là 1.

4. Kết luận

Có thể thấy hồi quy Logistic - Logistic Regression là một biến thể của hồi quy tuyến tính Linear Regression giải quyết phân loại (classification) dữ liệu. Hai ML model này các tính chất tương đương nhau.

HÃY THỰC HÀNH THEO BÀI TẬP NÀY ĐỂ MÌNH CÓ THỂ HIỂU VỀ LOGISTIC REGRESSION HƠN NHÉ!

[PYTORCH] BÀI 0: GIỚI THIỆU PYTORCH

2021-06-23T00:00:00+00:00

Tại sao lại là Pytorch?

Ngày nay, Deep Learning đã quá nổi bật với những công trình nghiên cứu thành công vang dội về các tính ứng dụng lẫn độ chính xác. Các công trình nổi bật làm cho trí tuệ nhân tạo như được thần thánh hóa trong mắt nhân loại như: xe tự hành(self-driving car), xác định vật thể trong ảnh (object detection),…

Trong quá trình hỗ trợ phát triển ứng dụng cũng như triển khai các sản phẩm ra thực tế, chúng ta cần các Deep Learning framework. Có rất nhiều framework cho Deep Learning như: Pytorch, Tensorflow, Keras, Mxnet,… Tuy nhiên, Pytorch được xem như là framework được sử dụng nhiều nhất trong những paper.

Các bạn có thể tham khảo qua bài viết này để biết thêm nhiều thông tin Pytorch áp đảo Tensorflow trong giới research

Vậy nên không quá khi nói Pytorch là một trong những Deep Learning framework tốt nhất hiện tại, cho cả làm nghiên cứu lẫn phát triển sản phẩm.

NTTH

Array Manipulation

Example

Function Description

Returns

Input Format

Constraints

Sample Input

Sample Output

Explanation

Solution

Example:

Input:

Output:

Solve:

Minimum Swaps 2

Example

Function Description

Returns

Constraints

Sample Input 0

Sample Output 0

Explanation 0

Sample Input 1

Sample Output 1

Sample Input 2

Sample Output 2

Solution

Code

New Year Chaos

Example

Function Description

Returns

Input Format

Constraints

Subtasks

Solution

MAKETREE - Hierarchy

Solution

TOPOSORT - Topological Sorting

Input

Output

Example 1

Solution

[PYTORCH] BÀI 1: TENSOR

1. Tensor là gì?

Các dạng tensor thường gặp

Các thuộc tính của tensor

Một số tensor data thường sử dụng trong deep learning :

2.Numpy arrays vs PyTorch tensors

3. Torch Tensors

3.1 Vector

3.1 Ma trận

3.3 Tensor 3D

4. Torch Properties

5. Torch transpose

6. Torch GPU

7. Torch Tensor to Numpy Array

[ML] BÀI 0: CÁC BƯỚC CƠ BẢN ĐỂ GIẢI QUYẾT MỘT BÀI TOÁN MACHINE LEARNING

1. THU THẬP DỮ LIỆU (GET DATA)

2. TIỀN XỬ LÍ DỮ LIỆU (PRE-PROCESSING)

3. HUẤN LUYỆN DỮ LIỆU

4. KIỂM THỬ

5. MỘT SỐ KHÁI NIỆM CƠ BẢN KHI TÌM HIỂU MACHINE LEARNING

[ML] BÀI 1: TIỀN XỬ LÍ DỮ LIỆU

1. MISSING DATA

1.1 Phân loại

1.2 Xóa dữ liệu khuyết

Listwise

Pairwise

Xóa nguyên cột luôn nếu cột không quan trọng

1.3 Điền khuyến dữ liệu

Cụ thể

Thay thế những dữ liệu missing với các giá trị: -1, -99, -999

Thay thế bằng giá trị mean, midian, mode

Sử dụng mô hình dự đoán cho data impution

[ML] BÀI 4: LOGISTIC PREGRESSION

1. Đường phân định - Decision boundary

2. Hàm Logistic - Logistic function

3. àm mất mát - Loss function